Tom Waits nasce come unico figlio maschio di una famiglia di origini scozzesi, irlandesi e norvegesi che dopo la sua nascita si trasferisce nel sud della California.
Con la sua famiglia trascorre un po' di tempo a San Diego, Laverne, Pomona, Silver Lake, North Hollywood. Per un certo periodo risiede anche a Whittier, il cui maggior motivo di notorietà era costituito dall'essere luogo di nascita del presidente statunitense Richard Nixon.

I genitori di Waits divorziano quando Tom ha 10 anni. Egli pertanto vive gran parte della sua infanzia con la madre e le due sorelle, ma, nonostante la loro presenza, resta spesso per conto suo.
Con il padre instaura invece un buon rapporto, sviluppando grazie a lui l'amore per la musica, soprattutto per il pianoforte e per il jazz degli anni trenta, nonché per artisti come Johnny Mercer, George Gershwin e Cole Porter.
A causa della situazione familiare inizia a lavorare in un ristorante all'età di 14 anni, come lavapiatti e poi come cuoco. Più tardi trova impiego come portiere in un Folk Club di Los Angeles, l'Eritage Club, dove sale sul palcoscenico per cantare alcune delle sue canzoni. Il produttore Herb Cohen, nel 1972, ascoltandolo ne rimane impressionato, ingaggiandolo in breve termine.

I suoi dischi d'esordio sono fulminanti per critica e pubblico: ancora abituati a canzonette, si ritrovano di fronte a brani che cantano la solitudine, l'emarginazione, l'alcolismo e i disgraziati in genere.

Tom diventa un personaggio, curvo sul suo pianoforte, spesso sbronzo, con la sua voce incatramata da mille sigarette; incanta quando alterna pezzi dolci e malinconici ad altri taglienti, sincopati, sempre comunque dai testi profondi, visionari e poetici.
Il suo primo disco, Closing Time, esce nel 1973, seguito da The Heart Of Saturday Night nel 1974 e dal bizzarro live-in-studio Nighthawks At the Diner nel 1975. Questi primi lavori sono fortemente influenzati dalle liriche del poeta beat Jack Kerouac e riscuotono grandissimo successo, specie tra la critica.

Waits adotta la filosofia neobeatnik al contempo nella propria arte e nella propria vita. Le sue canzoni riflettono quindi sentimenti autentici e raccontano spesso disavventure da lui stesso vissute.
Sforna album uno dopo l'altro: Small Change (1976) e Foreign Affairs(1977), che scoprono una vena più marcatamente jazzata; Blue Valentine (1978) e Heartattack & Vine (1980), nei quali Waits abbandona per la prima volta il piano in favore della chitarra.

Alla fine di questi tribolati anni settanta Waits tocca quasi il fondo, e la sua storia autodistruttiva con un'altra artista "maledetta" come Rickie Lee Jones giunge al capolinea: dopo avere immortalato la sua musa dell'epoca sul cofano della macchina nella copertina di retro dell'album Blue Valentine, Tom volta pagina, sia nella vita privata che in quella artistica.
Negli anni ottanta, Waits decide di esplorare nuove sonorità senza comunque perdere la sua ispirazione poetica, riuscendo perfettamente ad uscire dal cliché del personaggio che si era creato e che rischiava di vedersi rimanere cucito addosso per tutta la sua carriera a venire.
In questo senso sua moglie Kathleen Brennan è fondamentale, diventando la sua nuova musa, aiutandolo a mettere la testa a posto, salvandogli la vita come lui stesso ha più volte dichiarato e facendogli scoprire le gioie e le responsabilità di avere una famiglia.
Adesso scrivono insieme le canzoni ed hanno 3 figli; il maggiore di questi, Casey Xavier, pare voglia seguire le orme del padre: nel "Get Behind The Mule Tour", datato 1999, si è unito alla band in alcune occasioni sedendosi alla batteria per pezzi impegnativi come Big in Japan. Waits non si fa scrupoli di coerenza, evade le facili classificazioni e scrive musica originale, che sfida qualsiasi tentativo di definizione e costituisce l'espressione formidabile di un eccentrico talento, che ama le scarpe italiane a punta.

Dopo gli anni settanta, i cosiddetti "Asylum Years", Waits affronta con passione e professionalità un ambizioso progetto di Francis Ford Coppola, musicando il film "One from the heart" nel 1982 (occasione in cui conobbe la futura moglie). Il film fu un flop al botteghino, e la colonna sonora è di gran lunga ciò che ne viene maggiormente ricordato.
La svolta professionale della carriera di Waits coincide con il trasferimento alla casa discografica Island Records, dove Tom produce il trittico degli anni ottanta, cominciato con Swordfishtrombones nel 1983, passando per Rain Dogs nel 1985, fino ad approdare all'opera teatrale Frank's Wild Years nel 1987, senza dimenticare la raccolta live del 1988 Big Time.
La distanza a livello compositivo rispetto agli anni settanta è netta ma non per questo infierisce su di esso; anzi proprio la sua inventiva e la sua voglia di esplorare raggiungono il culmine probabilmente in questo periodo produttivo, in cui Waits si dedica anche a diversi altri progetti sia cinematografici che teatrali.

Nei primi anni novanta, Tom pubblica altri 2 album di alto livello, Bone Machine del 1992 e Mule Variations del 1999, entrambi vincitori di un Grammy ciascuno, nonché la colonna sonora del film di Jim Jarmusch del 1993 Down on Earth. Proprio col tour di supporto a Mule Variations, per la prima volta Tom Waits include l'Italia nelle sue tappe musicali, se si esclude una breve apparizione al Premio Tenco del 1986.
In questo periodo instaura una profonda amicizia col regista teatrale Bob Wilson da cui nasceranno diverse collaborazioni che porteranno alla pubblicazione di album come The Black Rider del 1993 (a cui partecipò anche William S. Burroughs) e l'accoppiata Blood Money-Alice del 2002.
Nel 2004 esce Real Gone, opera in cui Tom estremizza la propria personalissima ricerca musicale senza tuttavia dimenticarsi di quei brani dolci e riflessivi che lo avevano portato al successo negli anni settanta.
Nel 2005, Waits appare nel film italiano La tigre e la neve, diretto dal suo amico Roberto Benigni, con cui aveva già lavorato anni prima in Down by Law. Nel film canta un suo pezzo "You can never hold back spring" tratto dal suo ultimo triplo cd "Orphans: Brawlers, Bawlers & Bastards"