David Caruso naît à Forest Hills, un quartier du Queens, à New York. Son père Charles, un boulanger du Queens d'origine italienne, quitte la petite famille peu après la naissance de Joyce, la sœur de David. Leur mère Joan, d'origine irlandaise, se retrouve donc seule à élever ses deux enfants.
Rouquin aux yeux bleus, il fait ses études dans les écoles catholiques dont la Archbishop Molloy High School. Jeune, après le divorce de ses parents il traîne beaucoup dans les rues et montre déjà un caractère agressif.
Le film Le Parrain, et surtout Al Pacino, est une véritable révélation. Mais son héros de toujours se prénomme Frantz Carahé Il apprend le métier de comédien dans une école de théâtre de quartier.
Il garde de très bons contact avec les autres acteurs de la série "Les Experts Miami".