Opiekę nad nim sprawuje Kuria Metropolitalna Warszawska, którą reprezentuje zarząd cmentarza. Rolę opiekuna społecznego pełni Społeczny Komitet Opieki nad Starymi Powązkami. Cały teren cmentarza jest objęty ścisłą ochroną konserwatorską.
Cmentarz został założony 4 listopada 1790 na działce podarowanej przez rodzinę Szymanowskich. Poświęcono go 20 maja 1792 w obecności króla i początkowo zajmował powierzchnię ok. 2,6 ha.
W 1792 ukończono tam budowę kościoła św. Karola Boromeusza, ufundowanego przez duchowieństwo warszawskie, a zaprojektowanego przez Dominika Merliniego. Jeszcze przed poświęceniem cmentarza wystawiono tam również tzw. katakumby. Od 1812 roku miały miejsca kolejne poszerzenie terenu cmentarza, który osiągnął obecną powierzchnię 43 hektarów.
We wrześniu 1939 roku oraz w 1942 roku niektóre kwatery zostały uszkodzone. Podczas okupacji znajdowały się tu podziemne arsenały broni. Podczas powstania warszawskiego Niemcy umieścili na jego terenie czołgi.
Do 1970 trwała odbudowa katakumb, na skutek braku dokumentacji i zniszczeń wojennych nie wszystkie udało się odrestaurować i przywrócić na właściwe miejsce. W 2012 runął ceglany mur oddzielający Stare Powązki od cmentarza żydowskiego; zniszczeniu uległo około 70 nagrobków.
W lipcu 2014 cmentarz, razem z pięcioma innymi nekropoliami tworzącymi zespół zabytkowych cmentarzy wyznaniowych na Powązkach, został uznany za pomnik historii.
Po 1945 w budynku katakumb zorganizowano mauzoleum, gdzie złożono prochy zamordowanych w obozach koncentracyjnych.
