Budowę świątyni rozpoczęto w 1888 roku na miejscu pozostałości ziemnych fortyfikacji z czasów napoleońskich, według projektu Józefa Piusa Dziekońskiego, w stylu neogotyckim. Fundatorem kościoła była m.in. hrabina Augustowa Potocka, która ofiarowała na budowę 6000 rubli. Poświęcenie kościoła odbyło się 29 września 1901 – w dniu patronalnym św. Michała Archanioła. W okresie międzywojennym wyposażenie świątyni było stale uzupełniane – pod kierunkiem prof. Dziekońskiego, a po jego śmierci, prof. Zdzisława Mączeńskiego. W latach 30. obniżono 2 wysokie wieże, grożące zawaleniem.
We wrześniu 1944 roku Niemcy wycofujący się z Pragi wysadzili kościół w powietrze. Z dawnego kościoła ocalały fragmenty murów poprzecznej nawy oraz figury obu patronów świątyni. Prace nad powojenną rekonstrukcją ukończono w 1972 roku, a wieże zostały odtworzone w pierwotnej postaci. W 1992 roku podniesiono kościół do rangi katedry diecezji warszawsko-praskiej, a w 1997 otrzymał on tytuł bazyliki mniejszej.