Pomysł na nowy budynek narodził się siedemnaście lat temu, kiedy Wielkie Księstwo stało się jednym z sześciu krajów założycielskich Unii Europejskiej, a władze zdecydowały się wspierać wizerunek Luksemburga nie tylko jako państwa prosperującego gospodarczo, ale także jako ważny ośrodek kulturalny kontynentu. Jednak już sam pomysł stworzenia kolekcji sztuki współczesnej i jej architektoniczne urzeczywistnienie w postaci projektu J. M. Pei napotkał opór w różnych kręgach konserwatywnego społeczeństwa. W rezultacie jego koncepcja była kilkakrotnie zmieniana, projekt, a nawet konstrukcja została zawieszona. Dopiero w 1997 roku ustalono lokalizację muzeum: ruiny twierdzy Tungen (1732), które włączono do nowego budynku. W 1999 r. Rozpoczęto budowę, ale potem została przerwana na cztery lata, ponieważ Pei chciał do swojej budowy użyć tylko złotego wapienia z Francji, co spowodowało wiele nowych problemów.
Pojawiły się również trudności z kolekcją: ponieważ w Luksemburgu nigdy nie było kolekcji sztuki XX wieku, należało ją stworzyć. Ze względu na ograniczone fundusze nie było mowy o zakupie dzieł Dalego i Picassa: zdecydowana większość eksponatów spośród 230 obiektów należących do muzeum pochodzi z okresu po 1980 roku. Ale zdaniem dyrektora muzeum Marie-Claude Beaux ma na celu dalsze poszerzanie kolekcji, gromadzenie sztuki przyszłości, sztuki XXI wieku.
Kompleks położony jest w środku parku, pomiędzy dwiema dzielnicami biznesowymi miasta. Jego charakterystyczną cechą jest zielonkawa szklana wieża nad głównym atrium, przypominająca fortecę, na której została zbudowana. Prawie wszystkie kondygnacje głównej kondygnacji są wykonane ze szkła, dzięki czemu większość hal ma naturalne światło. Na parterze znajdują się dwie małe galerie i sala wykładowa. Na zewnątrz ściany muzeum licowane są z miodowego wapienia, główne wejście do muzeum to rozbudowana kompozycja przestrzenna w formie niszy. Całkowita powierzchnia budynku to 10 000 mkw. m, z czego 4800 mkw. m - przestrzenie wystawiennicze. Muzeum nosi imię Wielkiego Księcia Jeana, który teraz przekazał zarządzanie krajem swojemu synowi Henri.
