V letech 1904–05 pracuje Mies jako kreslič štukatur u Maxe Fischera, v kanceláři Göbbels a Dominick a poté u architekta Alberta Schneiderse v Cáchách. V roce 1905 odchází do Berlína a v letech 1905–07 pracuje jako kreslič v ateliéru Bruno Paula.
V roce 1906 získává první samostatnou zakázku – rodinný dům v Neubabelsbergu u Postupimi pro profesora Aloise Riehla. Přátelství mladého architekta s významným znalcem Nietscheho díla otevřelo Miesovi doposud neznámý duchovní i společenský svět. U Riehla se setkával s berlínskou intelektuální elitou, mimo jiné i s významným historikem umění Heinrichem Wölflinem, s jehož snoubenkou Adou Bruhnovou se později oženil. Úspěšné dokončení Riehlova domu v roce 1907 otevřel Miesovi dveře do jednoho z nejvýznamnějších evropských ateliérů u Petra Behrense.