1956 träffade han Dizzy Gillespie och komponerade för dennes band. De båda träffades igen 1960 i New York och Schifrin fick jobb som pianist i Gillespies kvintett. Schifrin fick kontrakt med MGM som gav honom i uppdrag att komponera musik till filmen ''Rhino!''. Därefter flyttade han till Hollywood och har komponerat musik till ett stort antal TV-serier och filmer. Bland hans mest kända verk är ledmotivet till ''På farligt uppdrag'' (''Mission: Impossible'').