Né à Daly City en Californie, le petit Sam Rockwell a baigné très tôt dans le monde des artistes puisque ses deux parents étaient aussi acteurs et que sa grand-mère maternelle était prof de théâtre. Toute la famille déménage à New York quand Sam a 2 ans, allant d'abord vivre dans le Bronx, avant de regagner Manhattan. Ses parents divorcent alors qu'il n'a que 5 ans. Sam part alors vivre avec son père à San Francisco, où il passe finalement le gros de son enfance, tandis qu'il revient l'été à New York. Le garçon fait ses débuts au théâtre à 10 ans en compagnie de sa mère, et plus tard, il étudiera à la High School for the Performing Arts de San Francisco.
Pas tout à fait parvenu au terme de ses études en 1988, il débute à l'écran dans Clownhouse, un film d'horreur produit par Francis Ford Coppola où trois échappés de l'asile se déguisent en clowns et terrorisent les habitant d'une maison.