Slutligen öppnade han sin egen verkstad och studio år 1924. I samband med att Prouvé under 1930-talet bidrog med ett funktionalistiskt förhållningssätt samt hade ett stort intresse för rationella konstruktioner, inledde han ett samarbete med Charlotte Perriand, Pierre Jeanneret och Le Corbusier. Tillsammans med Le Corbusier styrde Prouvé fransk modernism mot främjande av principfasta, demokratiska tillvägagångssätt gällande både arkitektur och design.

Prouvé inspirerades av maskiner så som bilar, båtar och flygplan och formgav därefter. Likt andra modernistiska pionjärer strävade Prouvé efter rationell serietillverkning. Till skillnad från sina samtida kollegor var han dock utbildad smed och förstod på ett helt annat sätt hur maskiner fungerade i praktiken. Efter andra världskriget inledde Prouvé även sin karriär som arkitekt, detta efter att han fått i uppdrag från franska staten att rita nödbostäder.

Idag producerar Vitra ett antal av Prouvés populära möbler, bland andra Cité-fåtöljen, Standard-stolen och skrivbordet Compas Direction. Dessa anses vara tidlösa designikoner och är lika populära idag som när de formgavs.