Jansons urodził się w 1943 r. w Rydze. Był synem dyrygenta Arvida Jansonsa. Jego matka – jako Żydówka – musiała się ukrywać przez cały okres wojny. Po jej zakończeniu wraz z ojcem i matką Mariss Jansons przeniósł się do Leningradu.

Zmarły dyrygent studiował w tamtejszym w konserwatorium grę na fortepianie i skrzypcach oraz dyrygenturę. Od 1969 r. kontynuował studia w Austrii (Salzburg, Wiedeń) - m.in. u Herberta von Karajana oraz Hansa Swarowsky'ego.

W 1973 został drugim dyrygentem w Filharmonii Leningradzkiej (obecnie: Petersburskiej). W latach 1979-2000 kierował orkiestrą filharmonii w Oslo. Intensywną pracę przypłacił zawałem serca w 1996 w czasie dyrygowania "Cyganerią" Pucciniego. Bardzo to przeżył, ponieważ ojciec zmarł z powodu zawału, gdy dyrygował orkiestrą.

Jansons współpracował m.in. z orkiestrą Filharmonii Londyńskiej, orkiestrą symfoniczną w Pittsburghu, orkiestrą symfoniczną rozgłośni Bayerischer Rundfunk i Koninklijk Concertgebouworkest w Amsterdamie