Jean s-a născut la Castelul Berg din Luxemburg, ca fiul cel mare al Marii Ducese de Luxemburg, Charlotte. A urmat școala primară din Luxemburg și liceul la Colegiul Ampleforth, o școală-internat romano catolică din Marea Britanie. Ajuns la maturitate la 5 ianuarie 1939, s-a recunoscut statutul lui de moștenitor aparent și a primit titlul de "Mare Duce Ereditar".
La 10 mai 1940, Germania a invadat Luxemburgul și au început cei patru ani de ocupație nazistă. Fiind avertizați de iminenta invazie, familia Marelui Ducat a plecat în noapte de dinainte. La început, ei au căutat refugiu la Paris, înainte de a fugi din Franța câteva săptămâni mai târziu. Jean plecat în Canada, unde a studiat Dreptul și Științe Politice la Universitatea Laval din Québec.
S-a alăturat armatei britanice ca voluntar în Gărzile irlandeze, în noiembrie 1942. După ce a fost instruit ca ofițer la Aldershot, Jean a devenit locotenent în martie 1943, înainte de a fi promovat la rangul de căpitan în 1944. La șase zile după Ziua Z, la 11 iunie 1944, Prințul Jean a debarcat în Normandia, în apropiere de Bayeux și a luat parte la Bătălia de la Caen și eliberarea orașului Bruxelles. La 10 septembrie 1944, a luat parte la eliberarea Luxemburgului înainte de a pleca la Arnhem și de invazia din Germania.
Din 1951 până în 1961, Mare Duce Ereditar Jean a fost membru al Consiliului de Stat, lucru care i-a permis să intre în viața politică a țării sale.
S-a căsătorit la Luxemburg, la 9 aprilie 1953, cu Joséphine-Charlotte a Belgiei (1927–2005), fiica regelui Leopold al III-lea al Belgiei. Jean și Charlotte au avut trei fii și două fiice.
Marele Duce Jean a abdicat la 7 octombrie 2000 în favoarea fiului său, Henri, Mare Duce de Luxemburg.
