Założone w XIII wieku było początkowo wioską liczącą około 80 mieszkańców. W 1252 roku powstał tu pierwszy kościół, Sancta Maria juxta paganos, który był równocześnie najdalej na północ wysuniętym kościołem na świecie. Prawa miejskie Tromsø uzyskało w 1794 roku. W XIX i XX wieku miasto stało się punktem startowym wielu ekspedycji polarnych, w tym najbardziej znanych Roalda Amundsena, Umberto Nobile i Fridtjofa Nansena, przez co zyskało sławę jako „Wrota do Arktyki” .
Podczas II wojny światowej miasto nie ucierpiało. Po zajęciu przez Niemców terytorium Norwegii, norweski rząd miał tutaj swoją siedzibę. W zatoce Håkøybotn, w pobliżu Tromsø został zatopiony przez RAF, w 1944 roku, niemiecki pancernik Tirpitz. Zginęło wtedy ponad 1000 niemieckich marynarzy.
W centrum miasta występuje duża liczba domów drewnianych, z których większość pochodzi z XIX wieku. W 1904 roku zabroniono budowy domów drewnianych w centrum.
W Tromsø znajduje się najstarsze norweskie kino, wybudowane w latach 1915–1916.
Miasto szczyci się posiadaniem najdalej na północ położonego uniwersytetu, katedry protestanckiej, ogrodu botanicznego, a nawet najbardziej „polarnej” restauracji Burger King.
W mieście znajduje się muzeum polarnictwa (Polarmuseet) przedstawiające historię wypraw polarnych. Większość ekspozycji dokumentuje osiągnięcia Roalda Amundsena oraz metody polowań na zwierzęta futerkowe Arktyki (głównie foki).
W 1965 roku w Tromsø wzniesiono Kościół Tromsdalen, nazywany z uwagi na swą monumentalną bryłę Katedrą Arktyczną.
Tromsø Forsvarsmuseum powstało na bazie zbudowanej przez Niemców w 1940 roku baterii dział dużego kalibru, które broniły dostępu do miasta. Odrestaurowane po wojnie, poza sześcioma działami, prezentuje również doskonale zachowany bunkier dowodzenia oraz wystawę poświęconą niemieckiemu pancernikowi Tirpitz. W mieście tym istnieje polski klasztor Karmelitanek Bosych.
Od 1987 na przełomie stycznia i lutego odbywa się corocznie Nordlysfestivalen (Northern Lights Music Festival), podczas którego prezentują się artyści z różnych gatunków muzyki – od dawnej do współczesnej, od opery do jazzu, od kameralnej do symfonicznej.
Raz do roku, w pierwszą lub drugą sobotę lipca, odbywa się w mieście impreza sportowa pod nazwą Tromsø Midnight Sun Marathon (Maraton Słońca o Północy Tromsø). Uczestnicy mogą startować w pełnym maratonie, półmaratonie oraz minimaratonie, a dzieci mają swój wyścig na krótszym dystansie. Zaś w styczniu odbywa się Polar Night Half Marathon (Półmaraton Nocy Polarnej).
W sierpniu organizowany jest festiwal piwa – Øl-Festival. W październiku odbywa się coroczny festiwal muzyki elektronicznej - Insomnia Festival.
Tromsø ubiegało się o organizację zimowych igrzysk olimpijskich w 2018 roku, jednak Narodowy Komitet Olimpijski Norwegii zrezygnował z tych planów, z powodu zbyt wysokich kosztów przedsięwzięcia.