Né à Cornwallon-Hudson, dans l'Etat de New York, Rob Cohen est licencié "magna cum laude" de Harvard en 1971. Il débute en assistant Daniel Petrie sur le téléfilm "Silent Night, Lonely Night", puis travaille comme lecteur à l'International Famous Agency de Mike Medavoy. C'est ainsi qu'il découvre en premier le scénario de L'arnaque, qui deviendra, sous la caméra de George Roy Hill, l'un des plus grands succès de l'Histoire du cinéma. Cohen travaille ensuite à la Twentieth Century Fox Television comme assistant du vice-président Richard Berger, puis comme directeur de l'unité téléfilms. Il développe, durant cette période, de nombreux projets dont "Madame Sundance" avec Elizabeth Montgomery, et "Passager vers la lune" avec Lloyd Bridges. En 1973, Berry Gordy engage Cohen comme vice-président exécutif du département cinéma de la Motown. Durant les cinq années qui suivent, Rob Cohen produira à ce poste Bingo de John Badham, Mahogany de Berry Gordy avec Diana Ross (film cité à l'Oscar pour sa chanson-titre), le téléfilm de Jeremy Paul Kagan "Scott Joplin", The Wiz de Sidney Lumet (avec Diana Ross et Michael Jackson) et Dieu merci, c'est vendredi, avec Donna Summer.