Obecny kościół św. Jakuba powstał w dwóch etapach. Początki budowli sięgają XII w.
Pierwszy przypada na lata przed 1392 r., wtedy zbudowano kościół sześcioprzęsłowy. Zamiarem fundatora biskupa Wacława Piasta było wzniesienie reprezentacyjnego kościoła dla księstwa nyskiego. Miałby on równocześnie pełnić funkcję świątyni pielgrzymkowej i być przeznaczony dla pątników podążających krzyżującymi się w Nysie głównymi polskimi szlakami pielgrzymimi – z Gniezna przez Bramę Morawską do Rzymu oraz z Krakowa na zachód Europy.
Drugi etap budowy przypada na lata 1424-1430 - obejmuje prezbiterium z ambitem, związany jest z planem wzniesienia reprezentacyjnego kościoła mieszczańskiego, jaki mieli rajcy nyscy. Zdecydowali się oni na finansowanie dalszej odbudowy i rozbudowy świątyni biskupiej.
W swych burzliwych dziejach kościół doświadczył licznych pożarów, zniszczeń i modernizacji. Jednak charakterystyczna sylwetka budowli pozostała niezmieniona do dnia dzisiejszego. Po pożarze w 1542 r. przeprowadzono prace naprawcze, m.in. nowe sklepienia sieciowe, nową więźbę oraz pokrycie łupkiem dachu.
W latach 1650-1810 kościół stał się reprezentacyjną świątynią biskupów wrocławskich, którzy rezydowali wówczas w Nysie jako w swej stałej siedzibie. Dostosowując kościół do pełnienia tej nowej funkcji ufundowano w nim tron biskupi. Przy bazylice działała także w tym samym okresie przeniesiona z Otmuchowa kapituła kolegiacka, instytucja kościelna o poważnym wówczas znaczeniu. Świadectwem tego są zachowane bogato zdobione stalle dla kanoników.
W XVII i XVIII w. przeprowadzono zgodnie z ówczesną tendencją barokizację kościoła, usunięto przy tym szereg gotyckich ołtarzy, rzeźby i witraże. Zatynkowano również stare malowidła. W latach 1889 – 95 przeprowadzono gruntowną modernizację kościoła w stylu neogotyckim, dobudowano również kruchtę zachodnią (dzisiejsze wejście główne).
Kościół św. Jakuba jest trójnawową, dziewięcioprzęsłową halą murowaną z kamienia i cegły. Wokół prezbiterium obejście będące przedłużeniem naw bocznych, przy których wbudowano rzędem szereg niższych kaplic gotyckich. Przy ósmym przęśle od południa i północy w miejscu dawnych wejść urządzono dwie kaplice barokowe. Idąc dalej nawą północną, widzimy dobudowane później, ośmioboczne barokowe baptysterium. Nawy boczne rozdzielone smukłymi, sześciobocznymi filarami z cegły, ponad którymi wznoszą się krzyżowo – żebrowe sklepienia z 1891 r.
Na kalenicy wbudowano ośmioboczną wieżyczkę na sygnaturkę. Na uwagę zasługują portale w kruchtach bocznych i do zakrystii z połowy XV w., oraz zespół zworników i rzeźbionych wsporników w niektórych kaplicach. Zwiedzając świątynię należy zwrócić uwagę na wyjątkowej wartości zespół dzieł rzemiosła artystycznego – zespół krat pochodzących z warsztatów nyskich od późnego gotyku poprzez renesans i manieryzm, aż do baroku. Nyski kościół posiada również jeden z najbogatszych na Śląsku zbiór epitafiów i pomników nagrobnych. Są to często dzieła wysokiej wartości artystycznej.
Obok kościoła wznosi się okazała, czterokondygnacyjna wieża – dzwonnica. W roku 1474 rozpoczęto budowę, która trwała z przerwami aż do roku 1548, jednak nigdy nie została ukończona i taka też pozostała wieża do dziś. Zbudowana na planie kwadratu z cegły obłożonej kamienną wykładziną, przy narożach wzmocniona silnie występującymi skarpami. Zwraca uwagę piękna dekoracja rzeźbiarska.
Druga wojna światowa nie oszczędziła kościoła. Ogień zniszczył całkowicie dach, szczyt zachodni, organy i grupę tęczową. Wyposażenie świątyni uległo częściowej dewastacji. Odbudowa trwała do 1961 r., prace konserwatorskie prowadzone są do dnia dzisiejszego.
Tytuł bazyliki przyznano świątyni w 2009. W 2011 roku obiekt uznano za Pomnik historii.
