Jałowiec pospolity ma wszechstronne znaczenie użytkowe i odgrywał istotną rolę w kulturze ludzkiej. Wykorzystywany jest m.in. jako roślina lecznicza, jadalna (szyszkojagody używane są jako przyprawa), olejkodajna, barwierska. Często uprawiany jest jako krzew ozdobny. W środowisku naturalnym przyczynia się do równowagi biologicznej i stabilności ekologicznej.

W Polsce gatunek jest rozpowszechniony na całym obszarze. Najliczniej występuje w północno-wschodniej części kraju, na Mazowszu i w rejonie Bydgoszczy. Stosunkowo najrzadziej spotykany jest w Polsce południowo-zachodniej. Lokalnie brak go zupełnie w obszarach intensywnie użytkowanych rolniczo (Żuławy Wiślane, Równina Pyrzycka, centralna Wielkopolska). W górach odmiana typowa spotykana jest do wysokości 1350 m n.p.m. (Smytniańskie Turnie w Tatrach), a odmiana halna do 2350 m n.p.m. (Ostry Szczyt).

Zawsze zielony, powoli rosnący, od nasady rozgałęziony krzew o kolumnowej, niekiedy także płasko rozpostartej formie wzrostu. Występuje również jako małe drzewo, zazwyczaj o wielu pniach, z wąsko piramidalną koroną. Osiąga wysokość zwykle do 11 m (rzadko do 20 metrów). Za największy jałowiec uznawany jest okaz o obwodzie w pierśnicy wynoszącym 2,8 m, rosnący w prowincji Närke w środkowej Szwecji. W Polsce rósł w Neplach nad Bugiem okaz, który zmierzony po wywróceniu przez wiatr w 1958 miał 12,9 m wysokości i 3,02 m obwodu w pierśnicy. Obecnie najgrubszy znany w Polsce jałowiec ma obwód 134 cm w pierśnicy. Młode pędy są trójkanciaste, gładkie z wąskimi podłużnymi listewkami. Co charakterystyczne dla jałowców – rozgałęziają się w różnych kierunkach, a nie w jednej płaszczyźnie jak u innych przedstawicieli cyprysowatych.

Posiada silnie rozwinięty system korzeniowy ma zasięg często przekraczający 4 m, przy łącznej długości korzeni sięgającej 1 km (u okazu 40-letniego). Korzenie rozrastają się płytko pod powierzchnią gleby.

Kora cienka, początkowo gładka czerwonawo brunatna, później szarobrunatna popękana wzdłużnie, odpadająca w postaci długich pasm. Liście występują tylko szpilkowate, a więc w postaci juwenilnej (młodocianej) – brak dojrzałych liści w postaci łusek, jak u innych cyprysowatych. Liście wyrastają po trzy w okółku i utrzymują się na pędach przez trzy lata. Są wąskolancetowate, sztywne i kłujące, o długości od 5 do 12, rzadko do 15 mm i szerokości 1–2 mm. Mają kolor szarozielony, z wierzchu z szerokim białym paskiem, czasem z wąską, zieloną linią biegnącą środkiem liścia i z zielonymi wąskimi paskami wzdłuż brzegów. Na dolnej stronie liść wypukły, na grzbiecie często z bruzdką. Zaostrzone łuski w pąkach mają ok. 3 mm długości.

Nasiona jajowate i nieco trójkanciaste, o długości 4–5 mm, nieoskrzydlone. Rozsiewane są wraz z całą szyszkojagodą.

Drewno na przekroju pnia kolejnymi warstwami od zewnątrz są: cienka i szarobrunatna warstwa korkowa, bardzo cienkie, szarawe łyko, zajmujące poniżej 1/6 przekroju nieco różowawe lub czerwonawo-żółte drewno bielaste i wyraźnie odmienne, dominujące na przekroju, żółtobrązowe drewno twardzielowe z odcieniem fioletowym i matowym połyskiem. W centralnej części pnia znajduje się słabo wyróżniający się rdzeń. Słoje są wąskie i faliste, przewodów żywicznych w drewnie brak, niewidoczne są też gołym okiem promienie rdzeniowe. Drewno jest miękkie i aromatyczne, przy czym zapach jest charakterystyczny, ostry, przypominający kamforę. Drewno jest drobnowłókniste, średnio ciężkie i dość miękkie.

Zatrucia jałowcem u ludzi są rzadkie, ale zdarzają się w przypadku przedawkowania szyszkojagód lub preparatów z jałowca podczas leczenia. Główne objawy toksyczne dotyczą nerek i dróg moczowych – są to bóle, krwiomocz, wielomocz i białkomocz. Nastąpić może przyśpieszenie czynności serca, oddechu i perystaltyki jelit. W przypadku zwierząt jałowiec najsilniej toksycznie działa na konie i kozy. Powoduje stany zapalne przewodu pokarmowego, uszkadza nerki, czasem ośrodkowy układ nerwowy i wywołuje poronienia. Do zatruć dochodzi jednak rzadko.

Jałowiec pospolity jest gatunkiem światłolubnym, choć potrafi się utrzymywać i rosnąć przy zacienieniu ograniczającym dostęp blisko 80% światła dziennego[6]. Okazy żeńskie mają wyższe wymagania świetlne, a w każdym razie kwitną tylko odpowiednio oświetlone, podczas gdy rośliny męskie zakwitają, nawet rosnąc w ocienionym podszycie. Siewki wymagają jednak do rozwoju osłony przed bezpośrednim słońcem – w miejscach nieosłoniętych ginie więcej niż co trzecia z nich. Gatunek ten dobrze też znosi długotrwałą ekspozycję na wysokie promieniowanie UV-B. Na terenach odsłoniętych i silnie nasłonecznionych toleruje wahania temperatur sięgające w ciągu doby do 60 °C przy gruncie. W odniesieniu do gleb preferuje ubogie w substancje odżywcze (nawożenie gleby eliminuje jałowca), często nawapienne i piaszczyste, jak i torfowe, ale w miejscach niezalewanych lub wręcz podsychających. Toleruje szeroki zakres pH gleby i zasolenie.

Jałowiec jest mrozoodporny, choć podczas mroźnych zim na dalekiej północy notowano straty listowia i rocznych szyszkojagód sięgające odpowiednio do 40 i 50%. Jest wrażliwy na zaleganie mokrego śniegu, mogącego powodować łamanie gałęzi i obalanie całych roślin. Jałowiec znosi niedostatki wody, choć silne i długotrwałe susze mają istotny wpływ na śmiertelność jałowców. Jałowiec może przetrwać i odrodzić się po przejściu niewielkich pożarów (przeżywa temperatury sięgające 600 °C), ale już silniejsze go zabijają. Jałowce rosnące na wrzosowiskach nie przeżywają podczas ich wypalania. Pożary, zwłaszcza w przypadku starzejących się populacji mogą jednak przyczynić się do ich odmłodzenia, ponieważ ułatwiają kiełkowanie młodym roślinom z obfitego zwykle glebowego banku nasion.

Jałowiec w ciągu 5–12 lat skutecznie kolonizuje porzucone pola i pastwiska na ubogich siedliskach. Uznawany jest na takich siedliskach za kluczowy gatunek pionierski inicjujący w ramach sukcesji wtórnej rozwój roślinności leśnej. Jest jednym z pierwszych gatunków kolonizujących wydmy śródlądowe oraz wysychające bagna.
Jałowiec pełni istotną funkcję biocenotyczną, zwłaszcza na najuboższych siedliskach, gdzie jest często jedynym gatunkiem krzewiastym, w lasach podszytowym. Często stanowi miejsce zakładania gniazd przez wiele gatunków ptaków śpiewających. Także króliki chętnie kryją się i kopią nory w kępach jałowców. Obecność jałowca jest kluczowa na ubogich siedliskach borowych dla bytowania licznych owadów i pajęczaków związanych z zaroślami tego gatunku.

Jałowiec pospolity nie toleruje konkurencji liściastych drzew i krzewów silnie zacieniających otoczenie.
Zwierzyna płowa, konie, bydło i owce niezbyt chętnie żywią się jałowcem – wysokie stężenie monoterpenów jest dla zwierząt szkodliwe. Zwłaszcza w przypadku koni, bydła i kóz spożywanie pędów jałowca prowadzić może do chorób, poronień, a nawet padnięć zwierząt. W przypadku jednak ograniczonej dostępności innych źródeł pożywienia jałowiec jest zgryzany, co wpływać może istotnie na kształt krzewów. Króliki, w przypadku dużego zagęszczenia populacji, także potrafią znacząco wpływać na stan jałowców, zgryzając ich korę. Presja roślinożerców (poza ww. także ślimaków i gryzoni) może istotnie wpływać na przeżywalność zwłaszcza młodych roślin i siewek. Gryzonie wyjadają także nasiona jałowca, w przypadku licznego występowania praktycznie eliminując możliwość rozmnażania generatywnego. Z kolei stwierdzono korzystne oddziaływanie wypasu bydła na kiełkowanie i utrzymywanie się młodych roślin.

Szyszkojagody jałowca są ulubionym pokarmem kwiczołów i jemiołuszek. W Europie często żerują na nich poza tym także: paszkot, kos, drozd śpiewak i obrożny. Mniejszymi szyszkojagodami żywią się: rudzik, kukułka zwyczajna i czubatka europejska. Spożywane są też przez gryzonie, zwłaszcza mysz zaroślową.