Po reorganizacji struktur administracyjnych Kościoła w Polsce, 25 marca 1992 roku, na mocy bulli Jana Pawła II Totus Tuus Poloniae Populus przestała istnieć unia personalna między Gnieznem i Warszawą. Kardynał Glemp pozostał arcybiskupem metropolitą warszawskim, zachowując godność Prymasa Polski, jako kustosz relikwii św. Wojciecha w Gnieźnie, a także ordynariuszem wiernych porządku wschodniego żyjących w Polsce i nie mających własnego ordynariusza.

      Po raz pierwszy w historii Prymas Polski nie był arcybiskupem metropolitą gnieźnieńskim. Jego jurysdykcji metropolitalnej podlegała obecna diecezja warszawsko-praska, płocka i łowicka. Nadal, nieprzerwanie od 1981 roku, pełnił funkcję przewodniczącego Rady Stałej (dawniej Rady Głównej) i Konferencji Episkopatu Polski (także wybierany na ten urząd kilkakrotnie).

      18 marca 2004 roku nastąpiła zasadnicza zmiana roli prymasa w Polsce. Tego dnia kardynał Józef Glemp przestał być przewodniczącym Konferencji Episkopatu Polski, dobiegła bowiem końca jego druga – po zmianie przepisów – kadencja. 

Msza św. na zakończenie obchodów Wielkiego Jubileuszu
Roku 2000 w archidiecezji warszawskiej,
plac Piłsudskiego, 20 maja 2000 roku

Tę funkcję objął w wyniku wyborów metropolita przemyski arcybiskup Józef Michalik, po raz pierwszy od półwiecza biskup nierezydujący w Warszawie. Wraz z odejściem z funkcji przewodniczącego Konferencji Episkopatu kardynał Józef Glemp stracił przysługujące mu z tego tytułu uprawnienia, jak np. zwoływanie posiedzeń biskupów, reprezentowanie Kościoła na zewnątrz, podpisywanie listów pasterskich czy zaproszeń kierowanych do papieża. Miał nadal prawo, jako prymas, oficjalnie witać papieża w Polsce w imieniu Kościoła, nadal był też członkiem Rady Stałej Episkopatu Polski. Prymasostwo stanowiło już jednak tylko funkcję honorową, nie wiązało się ze sprawowanie władzy w Kościele. Jak stwierdza Kodeks prawa kanonicznego, „oprócz prerogatyw honoru, tytuł patriarchy i prymasa nie daje w Kościele łacińskim żadnej władzy rządzenia”. Jako „pierwszy wśród równych” (primus inter pares), prymas zachowywał również pierwszeństwo w liturgii, co oznaczało prawo do przewodniczenia w każdej mszy św. koncelebrowanej także przez innych biskupów czy kardynałów.

      W tym okresie kardynał Józef Glemp kontynuował swoją aktywność publiczną, bardzo różnorodną i bogatą w treści ewangeliczne. Obserwatorzy zgodnie twierdzili, że nie było dziedziny życia religijnego (także w dziedzinie procesów beatyfikacyjnych i kanonizacyjnych), duszpasterskiego (m.in. również w zakresie znakomicie rozwiniętego budownictwa sakralnego na terenie archidiecezji) i patriotycznego, która byłaby mu obca lub nieznana jego duszpasterzowaniu. Szczególny charakter miały przygotowania i następnie przebieg Wielkiego Jubileuszu Roku 2000 z podniosłą i wzruszającą mszą św. na jego zakończenie na placu Piłsudskiego w Warszawie 20 maja 2000 roku.

      Dla kardynała Józefa Glempa zbliżał się czas emerytury. Zgodnie z Kodeksem prawa kanonicznego 6 grudnia 2006 roku papież Benedykt XVI przyjął jego rezygnację w urzędu metropolity warszawskiego. Papież pozwolił mu jednocześnie na zachowanie tytułu Prymasa Polski do chwili ukończenia 80 roku życia, czyli do 18 grudnia 2009 roku. Wielu Polaków czuło się rozczarowanych i tę decyzję Watykanu odebrało negatywnie, spodziewając się, że kardynał Glemp prymasem pozostanie dożywotnio. Uzasadnienie dla tej historycznej decyzji Watykanu znalazło się w liście, który Benedykt XVI wystosował do kardynała Glempa: „Gdy obecnie składasz – ze względu na wiek – urząd arcybiskupa metropolity warszawskiego, powiadamiamy Cię, że postanowiliśmy, abyś tytuł ten zachował do ukończenia przez Ciebie osiemdziesięciu lat życia. Ze względów historycznych i prawnych, przemawiających za Stolicą Gnieźnieńską, a mianowicie jako pierwszą polską archidiecezją metropolitalną, gdzie przechowywane są relikwie świętego Wojciecha Męczennika, patrona Polski, tytuł ten po owym czasie wróci do arcybiskupa gnieźnieńskiego. Jednocześnie serdecznie dziękujemy Ci, Czcigodny Nasz Bracie, i wyrażamy szczególny szacunek za wieloletnią niestrudzoną troskę o dobro archidiecezji warszawskiej, jak również całej Polski, i z wielką miłością udzielamy Ci naszego błogosławieństwa apostolskiego”. Z tym błogosławieństwem papieskim kardynał Józef Glemp opuścił rezydencję metropolity warszawskiego przy ulicy Miodowej, gdzie spędził 27 lat kapłańskiego życia, i zamieszkał w Domu Prymasów przy kościele św. Anny w warszawskim Wilanowie.

      Na następcę kardynała Glempa na urzędzie arcybiskupa warszawskiego papież wyznaczył biskupa Stanisława Wielgusa, dotychczasowego ordynariusza diecezji płockiej. Uroczysty ingres, wyznaczony na 7 stycznia 2007 roku, nie doszedł do skutku wobec złożonej przez biskupa Wielgusa tego dnia w godzinach rannych rezygnacji z powierzonego urzędu. W tej sytuacji papież powierzył kardynałowi Józefowi Glempowi dalsze pełnieni funkcji administratora archidiecezji warszawskiej (ingres, który miał się odbyć w katedrze św. Jana w Warszawie, zamienił się w mszę św. dziękczynną w intencji dotychczasowego ordynariusza). W marcu Benedykt XVI wyznaczył nowego następcę metropolity warszawskiego, urząd ten objął dotychczasowy ordynariusz diecezji koszalińsko-kołobrzeskiej biskup Kazimierz Nycz, który przejął też po kardynale Glempie dzieło budowy Świątyni Opatrzności. Na faktyczną emeryturę kardynał Józef Glemp przeszedł 1 kwietnia 2007 roku, kiedy to odbyło się kanoniczne przejęcie archidiecezji warszawskiej przez arcybiskupa Nycza.

      Jesień 2009 roku była czasem pożegnań. 26 listopada, na zebraniu plenarnym Episkopatu Polski na Jasnej Górze hierarchowie polskiego Kościoła dziękowali kardynałowi Józefowi Glempowi za posługę prymasowską, za przewodnictwo i twórczy udział w pracach episkopatu, za przykład pracowitości, „która – jak stwierdził arcybiskup Józef Michalik – była i jest dynamizmem usługiwania wszędzie i wszystkim niezależnie od trudności. Jest to posługiwanie ekumeniczne, niestrudzone, życzliwe, a przy tym pokornie otwarte w zatroskaniu o wiarę i ludzi, o Kościół i Ojczyznę”.

Prymas senior opuszcza rezydencję
przy ulicy Miodowej w Warszawie

  18 grudnia 2009 roku prymas Józef Glemp ukończył 80 lat. Tego dnia rozpoczęły się uroczyste obchody jubileuszowe. Najpierw w rodzinnym Inowrocławiu, gdzie w kościele Zwiastowania NMP, w którym został ochrzczony, odprawił – wraz z gronem biskupów – mszę św. dziękczynną, ostatnią jako urzędujący prymas. Uroczystość tę poprzedziło oficjalne otwarcie Instytutu Prymasa Józefa Glempa w Inowrocławiu. Podpisana umowa z Prezydentem Miasta Inowrocławia obejmowała przekazanie kolekcji zbieranych po całym świecie pamiątek oraz osobistej biblioteki i części dokumentów. Dzięki Instytutowi kolejne pokolenia Polaków będą mogły zapoznawać się z dziejami prymasostwa Józefa Glempa, które symbolicznie ujęte zostało w salach: „kujawskiej”, „w gabinecie prymasa”, „bibliotece” i „Sali audiowizualnej”. Instytutowi nadany został regulamin, powołano do życia jego Radę na czele z kardynałem Józefem Glempem – jako przewodniczącym honorowym, i arcybiskupem metropolitą gnieźnieńskim Prymasem Polski – jako przewodniczącym.

      Uroczystości i formalnie przekazanie urzędu prymasa nastąpiło 19 grudnia w Gnieźnie, kolejnym prymasem został arcybiskup metropolita gnieźnieński Henryk Muszyński. Z kolei 21 grudnia 2009 roku w Warszawie prymas senior Glemp uhonorowany został przez Prezydenta RP Lecha Kaczyńskiego najwyższym odznaczeniem – Orderem Orła Białego.

      Prymas senior, jak sam podkreślał, pozostał księdzem i duszpasterzem, tak też traktuje całą swoją posługę. „Godności i funkcje odchodzą, a pozostaje kapłaństwo. I ono jest najważniejsze. Zadaniem każdego księdza, tak jak całego Kościoła, jest przekazywanie wiary w Jezusa Chrystusa” – mówił kardynał Józef Glemp. Pozbawiony honorów, godności i zaszczytnych funkcji, jest wolny. Tracąc tego tytuły nie poczuł się ogołocony. Z niczego. Dar kapłaństwa, który jest jak olśnienie i który „nieskończenie przerasta człowieka:, przecież trwa. Prymas ma poczucie spełnienia , bo wszystko, co w życiu czynił, czynił najlepiej, jak mógł, Ze spokojem sumienia powtarza za poetą: Feci quod potui – „Zrobiłem, co mogłem”.

(na podstawie książki M. Kindziuk, Kardynał Józef Glemp – ostatni taki prymas)