Szülei olasz bevándorlók voltak. Tanulmányaival már 16 éves korában felhagyott, hogy énekelhessen. Bár a Hobokeni Négyekkel tehetségkutató versenyt nyert, önálló karrierre vágyott. Kezdetben kis éttermekben énekelt.
Igazi pályafutását a Harry James-szel és Tommy Dorsey-vel az 1930-as évek végén kezdte. Az 1940-es évek elején-közepén lett sikeres szólóénekes.
Az 1950-es években csökkent iránta az érdeklődés, de 1954-ben karrierje új lendületet kapott, amikor a legjobb férfi mellékszereplőnek járó Oscar-díjat ítélték oda neki a Most és mindörökké c. filmben nyújtott alakításáért.
Amikor már tehette megszállott autógyűjtő lett, kollekciójában több neves ritkaság mellett egy Lamborghini Miura szerepelt.
1994-ben életmű Grammy-díjat kapott. A nyilvánosság előtt 1995 végén jelent meg utoljára. 1998. május 14-én hunyt el, szívrohamban.
