V letech 1962–68 pracoval Mies na zakázce v rodném Německu. Na pozemku v blízkosti jeho někdejší berlínské kanceláře (v ulici Am Karslbad 24, dnes zbourané) navrhl budovu Nové národní galerie. Muzeum pro soudobé umění v novém okrsku nedaleko zničeného Postupimského náměstí a berlínské zdi navrhl jako čtvercový pavilon se skleněnými stěnami bez vnitřních nosníků. Mohutná střecha byla složena z obrovských ocelových krabic, které byly složeny do jediné kazetové desky. Střecha byla svařována na zemi a poté pomocí hydraulických zvedáků během jednoho dne vyzdvižena – Mies se během této akce dal pod zvedanou střechou vozit v bílém mercedesu. Objekt je nejpůsobivější, když zůstane úplně prázdný, nebo když jsou v něm vystaveny velké skulptury. V Miesově pojetí prostoru byla tak symbolicky uzavřena čtyřicetiletá cesta mezi výstavními pavilony v Barceloně a v Berlíně.