Początkowo podzielono kraj na trzy obszary AK: zachodni, lwowski i białostocki. Obszary zostały z kolej podzielone na okręgi (dawne województwa), a okręgi na obwody (dawne powiaty), obwody zaś na placówki (dawne gminy). Z końcem 1942 r., AK mogła się pochwalić liczbą 200 tys. żołnierzy. Jej głównym celem było przygotowanie zbrojnego powstania w momencie załamania się sił niemieckich.
Do AK zostały wcielone następujące organizacje: Obóz Polski Walczącej, Tajna Armia Polski, Polska Organizacja Zbrojna, Związek Czynu Zbrojnego, Tajna Organizacja Wojskowa oraz Socjalistyczna Organizacja Bojowa. Chłopska Straż została przemianowana w 1942 roku na Bataliony Chłopskie, które zachowały autonomię. Natomiast co do organizacji wojskowej Stronnictwa Narodowego, to około połowy jej członków wstąpiło do AK. Reszta połączyła się z narodowo-radykalną Grupą Szańca i Związkiem Jaszczurczym, wskutek czego powstały Narodowe Siły Zbrojne.
Cały czas zbierano uzbrojenie, którego nigdy nie było za wiele. To co posiadano, pochodziło z zapasów zakopanych przez wojsko polskie po kampanii wrześniowej, oraz ze zrzutów i produkcji własnej (np. pistolety maszynowe typu „Błyskawica” czy miotacze ognia i granaty).
Aby pomóc w ratowaniu mordowanych Żydów, organizacje podziemne powołały do życia 4-go grudnia 1942 r. Radę Pomocy Żydom, tzw. Żegotę.