Jerry sa narodil 10. februára 1929 v Pasadene v štáte California, pod občianskym menom Jerrald Goldsmith. Jerry vyštudoval klavír, komponovanie a teóriu kompozície na univerzite v južnej Californii. Jeho prvým zamestnaním bolo v roku 1950 úradnícke kreslo pisára v hudobnom oddelení CBS (rozhlas). V tomto rozhlase boli použité aj jeho prvé skladby v podobe zvučiek pre jednotlivé relácie.

Každý týždeň komponoval nové a nové skladby, ktoré potom vysielali naživo zahrané do éteru. Takto pracoval až do roku 1960, pokým nezačal skladať hudbu pre seriály a filmy. Najalo si ho štúdio Revue kde sa aj zoznámil s vplyvným filmovým skladateľom Alfrédom Newmanom, ktorý si takisto Jerryho najal. V prvej polovici šesťdesiatych rokov sa rýchlo prepracoval k špičke vo svojej profesii, a získal hneď tri nominácie na Oscara za hudbu k filmu. Medzi ne patrilo aj dielo z roku 1968, ktorým sa celosvetovo preslávil, hudba k celovečernému filmu Planéta opíc.

Jeho najväčšou devízou bola znalosť širokej palety elektronických zvukov a nástrojov, ktoré sa v súčasnosti najviac využívajú. Napriek tomu ich však pre svoju hudbu k filmom nevyužíval často.