Han föddes som son till försäkringsmannen Pehr Gyllenhammar, utbildade sig till jurist och blev försäkringschef när han rekordung efterträdde sin far på Skandia 1970.
Samma år blev Gyllenhammar chef för Volvo – Sveriges då största företag. Han efterträdde svärfadern Gunnar Engellau.
Gyllenhammar blev den före¬tagsledare som mest konsekvent odlade sitt internationella kontaktnät och han visade sig mycket handlingskraftig. Exempelvis öppnade han tillverkning i USA, men oljekrisen stoppade planerna. Nästa stora manöver var övertagandet av holländska småbilstillverkaren DAF.
Gyllenhammar försökte även slå ihop Volvo och Saab Scania 1977, men affären föll på motståndet från Saabfolket. Trots flera miss¬lyckanden gick Volvoledningen vidare med förberedelser för den nya modellgenerationen 740 och 760. Det blev miljardvinster på 1980-talet efter att flera regeringar devalverat kronan.
Flera förvärv följde under 1980-talet. Volvosfären köpte Beijerinvest, tog över Cardo och Pharmacia samt gjorde en uppseendeväckande affär med statliga Procordia.
Ledningen för Volvo PV förhandlade även med Audi om en allians, något som Gyllenhammar stoppade. Istället lade han fram förslaget till Renault, som Volvo samarbetade med på 1970-talet. Förslaget gick ut på att Renault skulle ta Volvos personbilar och Volvo få Renaults lastbilar. Förslaget mötte hårt internt motstånd från Volvo PV och större delen av ledningsgruppen lämnade företaget.
Volvo var vid den här tiden i kris. Delvis på grund av höga kostnader och svag amerikansk marknad. Renault var inte längre en jämställd samarbetspartner. Volvo var snarare ett uppköpsobjekt. Plötsligt kunde Volvo komma att styras från Paris. Medarbetare på Volvo gjorde därför myteri med nye VD:n Sören Gyll i spetsen.
Styrelsen gick nu för första och sista gången mot Gyllenhammar. Under stor mediebevakning fick Volvoordföranden lämna företaget och fusionen med Renault stoppades. En våg av kritik mot den enväldige och kejserlige chefen vällde fram när han var störtad.
Gyllenhammar flyttade till London och fortsatte i familjens försäkringsspår och även som styrelseordförande i Kinnevik.