Né à Aix-la-Chapelle, Mies van der Rohe commence par travailler dans l’entreprise familiale de tailleurs de pierre avant d’entrer dans le bureau d’architecture de Bruno Paul à Berlin de 1905 à 1907. Ensuite, il travaille au service de Peter Behrens de 1908 à 19111. Sous l’influence de ce dernier, Mies développe une approche de design basée sur des techniques de construction avancées et sur le classicisme prussien. Il éprouve aussi une certaine sympathie pour les choix esthétiques du constructivisme russe et du groupe néerlandais De Stijl. Il commence à réaliser ses dessins innovateurs mêlant acier et verre, empruntant certaines idées à Karl Friedrich Schinkel (son projet fait en 1921 de gratte-ciel tout en verre sur la Friedrichstraße constitue un des projets majeurs de l’expressionnisme en architecture). C’est également dans l’atelier de Behrens qu’il fera la connaissance de Walter Gropius, le futur fondateur du Bauhaus.
De 1912 à 1914, il travaille comme architecte à Berlin puis, en 1914, il est appelé à servir sous les drapeaux du fait du déclenchement de la Première Guerre mondiale.

Mies contribue au magazine G qui est lancé en juillet 1923. Il apporte des contributions majeures aux philosophies architecturales de la fin des années 1920 et dans les années 1930 en tant que directeur du projet Weissenhof sponsorisé par le Werkbund et comme directeur du Bauhaus. En effet, de 1930 à 1933, il dirige l’école des arts Bauhaus à Dessau et à Berlin. De 1925 à son départ pour les États-Unis, il travaille avec sa partenaire Lilly Reich. Il fut membre de l’association des artistes allemands Deutscher Künstlerbund.