Il est né comme John Matthew Cassan Sheffield dit Johnny Sheffield, en Pasadena, en Californie , le deuxième enfant de l'acteur Reginald Sheffield et Louise Van Loon
Son père était lui-même un artiste ancien mineur quand il est venu à l' États-Unis à partir de son pays natal, l'Angleterre . Sa mère, originaire de New York , était un collège Vassar diplômé d'une formation en arts libéraux qui aimait les livres et donné de nombreuses conférences.
En 1938, Sheffield est devenu une star enfant après qu'il fut jeté dans le jeune premier d'une côte Ouest de production de la très réussie Broadway jeu On Borrowed Time, mettant en vedette Dudley Digges et en vedette Victor Moore que Gramps. Sheffield a joué le rôle de Pud, un rôle long pour un enfant. Plus tard, il est allé à New York, en remplacement et a joué le rôle à Broadway.