In der Nacht vom 26. auf den 27. September 1939, am Vortag der Kapitulation Warschaus, erhielt General Michal Karaszewski-Tokarzewski von dem in Rumänien internierten Oberbefehlshaber  den Befehl, eine konspirative Militärorganisation aufzubauen. Zusammen mit einer Gruppe Offiziere, die der Gefangennahme entgangen waren, schuf er innerhalb weniger Wochen aus dem Nichts die mächtigste Untergrundarmee im besetzten Europa. Sie hieß zunächst "Dienst am Sieg Polens" (Służba Zwycięstwu Polski  SZP), nannte sich dann um in "Verband für den Bewaffneten Kampf" (Związek Walki Zbrojnej - ZWZ) und schließlich im Februar 1942 in "Heimatarmee" (Armia Krajowa - AK) - eine Bezeichnung, unter der sie am besten bekannt ist. Der eigentliche Organisator dieser Untergrundarmee war General Stefan Rowecki (Pseudonym "Grot"), der zunächst Stabschef war und von Juni 1940 bis Juni 1943 ihr Oberkommandierender. Nach dessen Verhaftung durch die Gestapo übernahm General Tadeusz Komorowski (Pseudonym "Bór") diese Funktion. Die Heimatarmee, ein Freiwilligenheer, war einerseits Teil der Polnischen Streitkräfte, deren Kommando sich außerhalb des Landes befand, andererseits aber auch das wichtigste Segment des Polnischen Untergrundstaates. Das eigentliche Ziel der Heimatarmee bestand darin, einen allgemeinen Aufstand vorzubereiten und durchzuführen sobald die Front heranzog oder im Fall eines allgemeinen Zusammenbruchs der deutschen Streitkräfte. Es wurden deshalb entsprechende Strukturen gebildet - ein Stab, Kommandanturen der einzelnen Waffengattungen und Dienste, territoriale Kommandostellen (Kreise und auf der niedrigeren Ebene Bezirke), Waffenlager wurden angelegt, Soldaten und Offiziere geschult und Informationen über die Gegner gesammelt. Wegen des verbrecherischen Charakters der Besatzung und der im Land herrschenden Stimmung mußten jedoch auch laufende Kampfmaßnahmen  in Angriff genommen werden. So war die Aktivität der Heimatarmee in zwei - eng miteinander verbundene - Teile oder Phasen aufgespalten: 1. den fortwährenden konspirativen Kampf, 2. den allgemeinen Aufstand (im Verlauf dessen die Wiederherstellung der vollen Struktur der Streitkräfte erfolgen sollte).Parallel zu dieser offiziellen Armee entstanden militarisierte Einheiten der politischen Parteien sowie eines Untergrundes, der sich auf gesellschaftliche Einrichtungen (z.B. die Feuerwehren, die Organisation unter der Bezeichnung "Fels" -  "Skała") und Jugendorganisationen (z.B. der Verband der Polnischen Pfadfinder unter der Bezeichnung "Graue Reihen" -  "Szare Szeregi") stützte sowie von Diversionsgruppen gebildete, die bereits vor Ausbruch des Krieges vom Generalstab vorbereitet worden sind. Eine der Aufgaben des Oberkommandierenden der Heimatarmee war es, all diese Einheiten zu vereinen, was recht lange dauerte. Außerhalb der Strukturen der Heimatarmee befanden sich schließlich ein Teil der radikalen Nationalisten (Nationale Streitkräfte - Narodowe Sily Zbrojne NSZ) sowie die ab Sommer 1942 gebildeten militärischen Einheiten der Kommunistischen Partei. Im Frühjahr 1944, als der Einigungsprozeß beendet war, zählte die Heimatarmee über 300.000 Soldaten.
Neben dem Stab und den territorialen Strukturen existierten noch spezielle Einheiten, zu deren Aufgaben u.a. die Diversion gehörte. Im April 1940 entstand der Verband der Vergeltung, der später in das Diversionskommando (Komenda Dywersji Kedyw) umgestaltet worden ist und sowohl auf zentraler Ebene als auch in allen Bezirken tätig war. Im September 1941 wurde u.a. in Zusammenhang mit der Veränderung der polnisch-sowjetischen Beziehungen die Organisation "Fächer" ("Wachlarz") ins Leben gerufen, die sich mit Auskundschaftung und Diversion hinter der deutsch-sowjetischen Front beschäftigte. In der Zeit vom 1. Januar 1941 bis 30. Juni 1944 haben Einheiten der Heimatarmee und ihr untergeordnete Einheiten im Rahmen der fortwährenden Kampfhandlungen u.a. 732 Züge zum Entgleisen gebracht , 443 Transporte in Brand gesetzt, rund 4.300 Fahrzeuge zerstört, 130 Waffen- und Ausrüstungslager in Brand gesetzt, 19.000 Waggons und rund 6.900 Lokomotiven beschädigt, 1.200 Tankwagen in Brand gesetzt, fast 40 Eisenbahnbrücken gesprengt, 5 Öltürme zerstört, 3 Hochöfen außer Betrieb gesetzt, rund 25.000 Sabotageaktionen in Rüstungsfabriken durchgeführt, rund 5.700 Anschläge auf Funktionäre verschiedener Polizeiformationen, Soldaten und Volksdeutsche verübt und Häftlinge aus 16 Gefängnissen befreit. Die Partisanenverbände, die seit 1943 aktiv waren, haben über 170 Gefechte geliefert und dabei über tausend Deutsche getötet. Anfang 1944 befanden sich rund 60 Partisaneneinheiten der Heimatarmee (von denen manche mehrere hundert Soldaten zählten) sowie fast 200 Diversionspatrouillen ständig im Einsatz. Die Heimatarmee hat in einigen Konzentrationslagern (u.a. in Auschwitz) und unter den nach Deutschland zur Zwangsarbeit verschleppten Polen konspirative Gruppen aufgebaut und den aus der Kriegsgefangenschaft entflohenen alliierten Soldaten Hilfe geleistet. Mit der Exilregierung in London und dem Stab des Oberbefehlshabers aller polnischen Streitkräfte wurde der Kontakt per Funk und über Kuriere aufrechterhalten. Es existierte ein Netz von Stützpunkten (der wichtigste war Budapest) und erprobte Kurierwege (u.a. nach Schweden). Ab Februar 1942 wurden  die Reihen gestärkt durch insgesamt 316 in England geschulte Polen, Offiziere für Diversions- und  Geheimdienstaufgaben, die auf abenteuerlichen Wegen nach Polen gelangten. Eine diversive Propagandaaktion richtete sich an deutsche Soldaten (Aktion "N"). Breitgefächert war die Publikationstätigkeit der Heimatarmee: Es wurden rund 250 Zeitungen herausgegeben, darunter die größte Untergrundzeitung - das "Informationsbulletin" ("Biuletyn Informacyjny"), das vom 5. November 1939 bis Januar 1945 erschien -, militärische Dienstvorschriften und Handbücher für Studenten der Kadettenschulen (rund 8.600 Personen haben diese abgeschlossen). Die Aktivitäten waren also „äußerst vielfältig. Einen eigenen, besonderen Beitrag im Kampf mit dem Besatzer leisteten die Jüdische Kampforganisation (Zydowska Organizacja Bojowa - ZOB) und der von der Heimatarmee unmittelbar unterstützte Jüdische Militärverband (Zydowski Związek Wojskowy - ZZW) vor allem durch den heldenhaften und todesmutigen Aufstand im Warschauer Ghetto (19. April - 16. Mai 1943).Zu den spektakulärsten Aktionen der Heimatarmee gehörten u.a. die Stillegung des Warschauer Eisenbahnknotenpunktes (7./8. Oktober 1942), die Befreiung der Gefangenen in Pińsk (18.Januar 1943), der Bombenanschlag auf dem Bahnhof der Berliner Stadtbahn (15. Februar 1943), die Befreiung Gefangener im Zentrum von Warschau (Aktion vor dem Arsenal am 26. März 1943) und der Anschlag auf Franz Kutschera, den SS- und Polizeiführer für den Distrikt Warschau (1.Februar 1944).Aus Berechnungen geht hervor, daß bis zum Juli 1944 ungefähr 34.000 Soldaten der Heimatarmee und der dieser untergeordneten Formationen ums Leben gekommen sind - ein Teil bei Kampfhandlungen, die meisten aber sind erschossen oder in Gefängnissen zu Tode gequält worden. Die Verluste betrugen also 1/10 aller zur Heimatarmee gehörender Soldaten. Unter den in England geschulten und auf Auskundschaftung spezialisierten Offizieren verloren 1/3 ihr Leben.