C'est dans la ville minière de Pittsburgh, en Pennsylvanie, qu'est né Fahrid Murray Abraham. D'origine italo-syrienne, il rejoint les rangs de l'Université du Texas, où il s'initie à l'art dramatique, puis part à New York étudier sous la férule de Uta Hagen. Il fait ses débuts scéniques à Los Angeles dans "The Wonderful Ice Cream Suit" de Ray Bradbury, puis, à l'âge de 29 ans, foule pour la première fois de la semelle les planches de Broadway dans "The Fantasticks". Pendant dix ans, F. Murray Abraham va enchaîner les rôles au théâtre sans connaître la renommée, mais en ne cessant jamais de travailler. Il débute au cinéma avec de tout petits rôles à l'orée des années 70, notamment celui du trafiquant de drogue qui abat le héros dans Serpico, de Sidney Lumet. A la télévision, il apparaît dans diverses séries, notamment "Kojak" et "All in the Family". Il fait également de la publicité, trouvant une gloire éphèmère en vantant les sous-vêtements Fruit of the Loom. Garagiste dans The Sunshine Boys, policier dans Les hommes du président, patron de bar gay dans The Ritz, activiste politique dans The big fix, F. Murray Abraham trouvera la gloire en un seul film, réalisé en 1984 par Milos Forman : Amadeus. Il y incarnait Salieri, l'éternel contradicteur et rival musical de Mozart.