Az uralkodó I. Ferenc - a nádor testvére - 1795-ben nevezte ki a főherceget Magyarország helytartójává, akinek egyik legfontosabb célkitűzése az volt, hogy az ország boldogulását elősegítse és szolgálja. A magyarsághoz erős kötődés fűzte - az 1805-ös országgyűlésen a következő kijelentést tette: "az én ereimben is Árpád vére forr." Tevékenységét azonban nem övezte osztatlan dicséret, az udvar rebellisnek tartotta, hűtlenséggel vádolta, a magyar rendek pedig az 1811-12. évi országgyűlés után fordultak el tőle, ahol nem tudta megakadályozni, hogy Bécs bevezesse a rendeleti úton történő kormányzást. Nádorként folyamatosan azon munkálkodott, hogy visszatérjenek az alkotmányos keretek között történő politizáláshoz, s neki köszönhetően ez 1825-ben meg is történt. József nádor felkarolta a Magyar Tudós Társaság alapításának gondolatát, tízezer forinttal támogatta annak életre hívását. 1826-ban Pesten megalapította a Vakok Intézetét, mely az ő védnöksége alatt állt. Hatékonyan felkarolta az első magyar vasút megépítésének gondolatát (1827) és a Pesti Kereskedelmi Bank felállítását (1832). Bécs nem nézte jó szemmel a magyarság támogatására irányuló tevékenységét. 1847. január 13-án, nádorrá választásának 51. évfordulóján, súlyos betegség után halt meg, testét a Budavári Királyi Palota Nádori Kriptájában helyezték örök nyugalomra, ami azonban nem adatott meg neki. Az 1970-es években, amikor az 1945 óta romos állapotú budai királyi palota felújítása elkezdődött, a nádori kriptát a sírokkal együtt ismeretlenek több alkalommal, rendszeresen visszajárva, módszeresen megrongálták és kifosztották, nyilvánvalóan az őrszemélyzet tudtával és közreműködésével. József nádor szobrát a kiegyezés után, 1869-ben állították fel Pesten.