Heldenberg to specyficzna budowla, będąca jednocześnie pomnikiem militaryzmu połowy XIX wieku i ambicji jego budowniczego, który wzbogacił się dostarczając żywność, tkaniny i obuwie armii kupca Josefa Pargfriedera. Przyjaźnił się z feldmarszałkiem Josefem Radetzkym von Radetzem (to jemu dedykowany jest słynny marsz Johanna Straussa) i chciał urządzić panteon na cześć tego i innych wielkich austriackich dowódców wojskowych, wzorowany na „Walhalli” Leo von Klenze. niedaleko Ratyzbony. Tak powstała „góra bohaterów” - Heldenberg: zespół parkowy z popiersiami i posągami cesarzy austriackich i wybitnych średniowiecznych dowódców, których jest łącznie około 150. W specjalnie wybudowanej krypcie Radetsky a inny feldmarszałek Maximilian von Wimpfen - ufundował Pargfrieder, który również spłacił wszystkie ich długi. Cesarz nie mógł zignorować tego patriotycznego wkładu, więc został zmuszony do podniesienia przedsiębiorcy do rangi szlacheckiej, o którą zabiegał.
W centrum zespołu znajduje się „filarowa sala”, w której mieli mieszkać weterani (według zasady paryskiego Domu Inwalidów). Teraz zajmuje się ekspozycją militarno-historyczną, w tym Muzeum Radetzky'ego. Obok powstał nowy budynek według projektu Petera Ebnera, w którym mogą odbywać się wystawy o dowolnej, nie tylko „pamiątkowej” tematyce. Należy zauważyć, że budynek pojawił się w ramach remontu Heldenberga, który pod koniec XX wieku popadł w pewne spustoszenie. Obecnie, oprócz samego pomnika, jest rekonstrukcja neolitycznej wioski i nekropolii (w pobliżu odnaleziono ich szczątki), muzeum starych samochodów, a nawet „gala pokazowa” koni lipicańskich.
Ponieważ nowy budynek muzeum znajduje się w samym centrum kompleksu pamięci, jest prawie całkowicie schowany pod ziemią, a raczej wpisany jest w niski wał. Od strony „holu filarowego” wystaje bryła wejścia: jakby unoszący się nad ziemią blok szkła i betonu, po przeciwnej stronie znajduje się łuk wyjścia. Na szczycie wału można zobaczyć jeszcze trzy betonowe bryły: wpada przez nie światło słoneczne.
Wnętrze jest przestrzenią neutralną, unikającą jednocześnie schematu typowego dla nowoczesnego muzeum z białymi salami - „skrzynkami” zalewanymi elektrycznym oświetleniem. Tutaj wpadające do siebie pokoje są oświetlone rozproszonym światłem górnym: jest to cichy świat, bardzo różniący się od późnoklasycznej brawury powyższego pomnika. Architekt dążył do tego efektu.