Efter examen blev Jacobsen anställd på Paul Holsoes arkitektkontor. Hans första stora genombrott som arkitekt kom år 1929 med ett vinnande förslag i en tävling om Framtidens Hus. Året efter öppnade han sitt eget kontor i Hellerup och inledde samarbetet med den danska tillverkaren Fritz Hansen som än idag tillverkar hans möbler.

På slutet av 1950-talet designade Arne Jacobsen världens första designhotell - SAS Royal Hotel i Köpenhamn där han stod för all inredning och möbler. Slutresultatet blev en fantastisk samverkan mellan exteriör och interiör. I samband med detta formgav han designklassikerna Ägget, Sjuan, Svanen, 3300-serien och AJ-lamporna. Jacobsens karriär tog ordentlig fart med hotellet och gjorde hans namn känt världen över. Möblerna från hotellet är idag bland Fritz Hansens storsäljare tillsammans med Myran-stolen som formgavs för personalmatsalen på läkemedelsföretaget Novo Nordisk.

Jacobsen räknas främst som en företrädare för funktionalismen och menade på att man måste analysera byggnadens struktur och användningsområde för att kunna bestämma interiören. Han trodde starkt på att arkitekturen och inredningen skulle komplettera varandra. Jacobsen formgav förutom byggnader och möbler även andra designdetaljer som textilier och bestick för Georg Jensen som fortfarande är lika omtyckta. Under sin tid inreder och designar Jacobsen flera ambassader och stadshus runt om i Europa vilket bidrar till spridningen av dansk design på 1900-talet.

Jacobsen hann under sin livstid få flertal prestigefyllda utmärkelser. Bland annat Eckersberg-medaljen år 1936 och C.F. Hansen-medaljen år 1955. Han utnämndes även år 1966 till hedersdoktor vid Oxford University. Jacobsen anses varit inte bara en av Danmarks främsta formgivare, men även internationellt. Efter sin död år 1971 hyllas han fortfarande och bland annat är sjuan-stolan är en konstant storsäljare som hittas i otaliga hem världen över.