Era fill d'un famós arquitecte. Va interrompre els seus propis estudis d'arquitectura per a matricular-se a l'Escola d'Arts Gràfiques de Viena i després en la de Munic.

Es va iniciar en el cinema el 1909, a Bruges (Bèlgica). Torna a Viena després de la declaració de la guerra, i s'allista en l'exèrcit austríac.

El 1916 comença a escriure guions per als estudis Universum Film AG (UFA) i treballa com a director a Hallblut (1919) i Les aranyes (1920), que seran ben rebudes. Sobre guions de la seva dona Thea von Harbou i seus roda Das Wandernde Bild (1920), Der Müde Tod (1921), Dr. Mabuse, der Spieler (1922), Spione (1927) i Das testament des dr. Mabuse (1933).

Més interessants resulten Die Nibelungen (1924), Metropolis (1927), Frau im Mond (1929) i M, un assassí entre nosaltres (1931).