Mies van der Rohe nació el 27 de marzo de 1886 en la ciudad de Aquisgrán (Alemania). En 1900 empezó a trabajar en el taller de escultura de su padre y en 1905 se trasladó a Berlín para colaborar en el estudio de arquitectura de Bruno Paul, con el que diseñó algunos muebles.
En 1907 realiza su primera obra, la casa Riehl ( Potsdam-Babelsberg, Berlín).
De 1908 a 1911 trabajó en el despacho de Peter Behrens, del cual, Mies desarrolló un estilo arquitectónico basado en técnicas estructurales avanzadas y en el clasicismo prusiano.
En 1911 dirigió la construcción de la embajada alemana en San Petersburgo. En ese mismo año se mudó a La Haya y planificó una casa de campo para el matrimonio Kröller-Müller.
En 1912 abrió con mucho esfuerzo su propio estudio en Berlín.
En 1913, con su esposa Ada Bruhn, se traslada a Werder, donde nacen sus 3 hijas. La Primera Guerra Mundial provocó que Ludwig fuera destinado a Rumania durante este periodo y la familia quedase separada.
En 1922 se hizo miembro del "Novembergruppe" y se puso por nombre Mies van der Rohe.
En 1923 editó la revista "G junto con van Doesburg, Lissitzky y Richter. A partir su participacion en G, quedo fuertemente influenciado por el neoplasticismo de Van Doesburg.
En 1926 fue vicepresidente de la Deutscher Werkbund (DWB)
Llevó a cabo obras de cierta envergadura, como la casa Wolf en Guben, toda de ladrillo, y la casa Hermann Lange en Krefeld.
De 1927 a 1930 construyó una villa en Krefold para el fabricante de sedas Hermann Lange,y en 1929 Mies recibe el encargo de proyectar el Pabellón nacional de Alemania para la Exposición Internacional de Barcelona, para el que diseñó también la famosa silla Barcelona, de acero cromado y cuero
En 1930 concluyó la Villa Tugendhat en Brünn (actual República Checa) y dirigió la Bauhaus de Dessau hasta que se cerró en 1933. La evolución de los acontecimientos en Alemania le obligó a emigrar a Estados Unidos en 1937, donde fue nombrado director de la facultad de arquitectura del "Illinois Technology Institute de Chicago".
En 1944 se convierte en ciudadano de los Estados Unidos. De 1945 a 1950 construye la casa Farnsworth en Illinois.
Entre los años 1948 y 1951 hace realidad su sueño de construir un rascacielos de vidrio con las dos torres del Lake Shore Drive Apartments de Chicago, y, más tarde, el Commonwealth Promenade Apartments, también en la misma ciudad (1953-1956).
Entre sus obras más emblemáticas de esta etapa destaca el Seagram Building (1958), un rascacielos de 37 pisos de vidrio y bronce construido en Nueva York junto a su discípulo Philip Johnson.
De 1962 a 1968 construye en Berlín la Galería Nacional.
El 17 de agosto de 1969 muere en Chicago dejando como legado unos nuevas pautas para la arquitectura, bajo sus tan divulgados lemas «Less is more» («Menos es más») y «God is in the details» («Dios está en los detalles»), que lo considera como uno de los maestros más importantes de la arquitectura moderna.