Wapień, który wydobywano w tym miejscu zwany jest wapieniem lutetańskim lub „Kamieniem Paryskim” – powstał około 45 milionów lat temu, kiedy cały ten obszar znajdował się pod płytkim morzem i zawiera skamieniałe szczątki stworzeń morskich. Zbudowano z niego Notre-Dame, Luwr i wiele innych paryskich budowli. Średniowieczni górnicy opracowali technikę „kolumna i komnata”, pozostawiając 20 metrów pod ziemią niesamowite, katedralne przestrzenie. W XVIII wieku sprawy zaczęły się komplikować. W 1774 roku ogromny krater na dzisiejszej ulicy Denfert-Rochereau pochłonął 300 metrów ulicy. Paryżanie wpadli w panikę, bojąc się, iż wkrótce zapadnie się całe miasto. 4 kwietnia 1777 roku Ludwik XVI powołał Departament Generalnej Inspekcji Kamieniołomów, na czele którego postawił Charlesa Axela Guillaumota, by rozwiązać problem zapadania się ziemi. Dodatkowo w Paryżu przepełnił się największy cmentarz do tego stopnia, że wokół unosiły się trujące wyziewy z rozkładających się ciał. Ludzie mieszkający w pobliżu zaczęli chorować, mieli poważne problemy z oddychaniem, wymiotowali, a nawet miewali omamy i zaburzenia psychiczne. Wymyślono więc, by przenieść zmarłych pod ziemię. Począwszy od grudnia 1785 roku, rozpoczęła się ta najdziwniejsza operacja logistyczna – robotnicy przenosili zwłoki z cmentarzy, ale wszystko robili w nocy, by nie przestraszyć ludzi. Wykopali wszystko – całe ciała, częściowe szczątki, kości – ładowali na wózki i transportowali przez ciemne paryskie ulice do starych kamieniołomów. Zespół Guillaumota zarządził, by kości wrzucane do szybów kamieniołomów, były na dole sortowane i rozprowadzane po całym systemie tunelowym. Prace trwały przez kolejne dziesięciolecia, ale już 7 kwietnia 1786 roku miejsce to otrzymało oficjalne miano Paryskiego Ossuarium Miejskiego.
Między 1810 a 1814 rokiem inspektor Louis-Etienne Héricart de Thury zdecydował, że samo ułożenie kości jedne na drugich nie jest wystarczająco dostojne. Zreorganizował więc całe ossuarium, tworząc artystyczne aranżacje czaszek i kości udowych, które nadają katakumbom ich charakterystyczny wygląd dzisiaj.
Katakumby stały się szybko atrakcją turystyczną. Hrabia Artois (późniejszy Karolem X) oprowadził po nim grupę dworskich dam w 1787 roku. Cesarz Austrii Franciszek I odbył wycieczkę w 1814 roku. Nawet Napoleon III pojawił się ze swoim synem w 1860 roku.
Jesienią tego roku katakumby zostaną zamknięte na rok, w czasie którego potrwa renowacja podziemi.