1946 mit dem Vornamen Raymond im irischen Waterford auf die Welt gekommen, zieht er im Alter von elf Jahren mit seiner Familie ins englische Swindon. Dort beginnt er, Klavier zu spielen, eine Tätigkeit, die er auch während seines Studiums an einer Kunsthochschule fortsetzt. Auf der Suche nach einem Manager trifft O’Sullivan auf
Gordon Mills, der schon Tom Jones und Engelbert Humperdinck aufgebaut hat.

Ausser zu dem eigenwilligen Look kommt es auch zu einer Namensänderung: Raymond fällt zugunsten von Gilbert weg. 1971 schreibt er seinen ersten grossen Hit “Alone Again (Naturally)”, die Nummer Eins in den USA wird, weitere Bestseller gelingen ihm mit “Get Down”, “What’s Another Kiss” und der wunderschönen Ballade “Clair”.