Pierwsza bazylika w tym miejscu została wybudowana w IV wieku z polecenia cesarza Konstantyna. Była ona trzykrotnie większa od współczesnej budowli. Bazylika konstantyńska została zniszczona przez Persów w 614 r. Za panowania cesarza Herakliusza sanktuarium – w mniejszych rozmiarach – odbudował patriarcha Modest. Bazylika została jednak doszczętnie zniszczona w 1009 na polecenie kalifa Al-Hakima. W 1099 roku krzyżowcy zdobyli Jerozolimę i na miejscu ruin wznieśli nową świątynię. Na przestrzeni wieków sanktuarium było wielokrotnie przebudowywane oraz nękane przez pożary, trzęsienia ziemi i grabieże. W efekcie pod względem architektonicznym kształt świątyni jest rezultatem różnej jakości przebudów i remontów. Mimo że zewnętrzny wygląd Grobu został znacznie odmieniony, a skała Golgoty w dużym stopniu zniszczona, nadal należą one do najcenniejszych relikwii chrześcijańskich, a sanktuarium przyciąga ogromne liczby pielgrzymów z całego świata.
Bazylika nie jest wyłączną własnością żadnego Kościoła chrześcijańskiego, ale pozostaje we współposiadaniu przedstawicieli kilku wyznań. W bazylice swoje siedziby mają przedstawiciele trzech kościołów: greckiego Prawosławnego Patriarchatu Jerozolimy, Kościoła łacińskiego reprezentowanego przez Zakon Braci Mniejszych (franciszkanie) oraz Apostolskiego Kościoła Ormiańskiego; mogą oni pełnić na zmiany funkcje liturgiczne w sanktuarium. W największe święta przestrzeń bazyliki jest udostępniana dla liturgii Syryjskiego Kościoła Ortodoksyjnego i Etiopskiego Kościoła Ortodoksyjnego. Z kolei Koptyjski Kościół Ortodoksyjny ma prawa tylko do kilku pomieszczeń, a w wybrane dni jego wspólnota może sprawować liturgię we własnej kaplicy znajdującej się na tyłach kaplicy Grobu. Relacje między wspólnotami reguluje wywodząca się z czasów Imperium Osmańskiego zasada Statu Quo.
Od 1980 bazylika wraz z całym Starym Miastem Jerozolimy figuruje na liście światowego dziedzictwa UNESCO.
Badania archeologiczne przeprowadzone na terenie sanktuarium pozwalają na stwierdzenie, że teren na którym zlokalizowana jest bazylika, był od VIII wieku p.n.e. używany jako kamieniołom wapienia. Ślady wskazują, że eksploatacja była prowadzona jeszcze w I wieku p.n.e. Pod bazyliką nadal znajdują się pokłady dobrej jakości wapienia, a odkryte tam bloki skalne noszą ślady dawnej eksploatacji.
Okres rzymski
Sanktuarium powstało w miejscu, które w czasach Jezusa znajdowało się poza murami Jerozolimy. Na początku I wieku n.e. był to opuszczony kamieniołom, w którym dokonywano egzekucji na skazańcach. Samotna, około 11-metrowa skała zwana była Golgotą co oznaczało „czaszkę”. Zgodnie z tradycją żydowską było to miejsce, w którym znajdował się grób biblijnego Adama. Tradycja łączy skałę grobu Adama także z miejscem ofiarowania Izaaka przez Abrahama. Według ewangelistów na skale Czaszka ukrzyżowany został Jezus Chrystus.
W Palestynie okresu rzymskiego pochówki miały zróżnicowany charakter. Dzięki odkryciu stosunkowo dużej liczby starożytnych grobów w rejonie Jerozolimy i górach Judei można jednak odnotować wyraźne prawidłowości. Członkowie bogatych rodzin wybierali rozbudowane grobowce wykute w skale, w których komory grobowe miały wydzielone miejsca pochówku. Żydzi kładli ciała swoich zmarłych w grobie, owijali je w płótno i stosowali aromatyczne pachnidła, ale nie używali znanych u Egipcjan form balsamowania lub trumien.
Sądząc z układu wnęki grobowej grobowca bazyliki Grobu Świętego, może potwierdzić, że w świadomości lokalnych wspólnot chrześcijańskich pierwszych wieków ciało Jezusa było złożone w arcosolium o łukowatym sklepieniu, są artefakty odkryte we wczesnochrześcijańskim, datowanym na 232 r. n.e. domu modlitw (domus ecclesiae) w Dura Europos we wschodniej Syrii. W ścianie tamtejszej kaplicy chrzcielnej umieszczona była misa w kształcie ławy z korytowym zagłębieniem, a nad nią znajdowało się łukowate sklepienie. Chrzcielnica była odwzorowaniem grobowca typu arcosolium, a chrzest miał uświadomić „zanurzenie w śmierć i zmartwychwstanie Chrystusa” i wyrazić ponowne narodziny.
We wnętrzu Grobu w rotundzie bazyliki nie przeprowadzono żadnych badań naukowych aż do 2016 roku. Wstępne opinie badaczy potwierdziły wcześniejsze opisy wnętrza.
