Bereits unmittelbar nach der Niederlage formierten sich überall im besetzten Polen kleinere Untergrundorganisationen unterschiedlicher politischer Ausrichtung. Außer den Kommunisten und Rechtsextremen sah sich die Mehrheit der Widerstandsgruppen in der Tradition der Zweiten Republik, deren Staatlichkeit sie wiederherstellen wollte. Zivile und militärische Kräfte ordneten sich der zunächst in Paris, später in London ansässigen Exilregierung unter. Während der Besatzungszeit entstand ein von der Exilregierung geführter Untergrundstaat, der über ein Parlament, ein geheimes Sozialfürsorge- und Justizsystem verfügte. Zivile Dienststellen organisierten ein geheimes Bildungssystem, ein Gerichtswesen, Radiosender und Untergrunddruckereien. Bücher, Flugblätter und Zeitungen sollten die Moral der Zivilbevölkerung aufrechterhalten und über innenpolitische Ereignisse sowie über die Kriegslage informieren.
Aus verschiedenen Widerstandsgruppen bildete sich 1942 die polnischen Heimatarmee (Armia Krajowa). Sie rekrutierte junge Leute und bildete sie im Verborgenen militärisch aus, sie führte aber zunächst nur vereinzelt Anschläge und Sabotageaktionen durch. Als militärischer Arm des Untergrundstaates bereitete die Heimatarmee intensiv einen Aufstand vor: Die deutsche Besatzungsmacht sollte erst dann umfassend angegriffen werden, wenn diese innerlich und äußerlich hinreichend geschwächt sein würde.
Die unterschiedlichen politischen Lager der polnischen Juden hatten sich in eigenen zivilen und militärischen Verbänden organisiert. Zunächst ging es vor allem darum, die Folgen des antijüdischen Terrors mithilfe illegaler ziviler Hilfsorganisationen zu bekämpfen. Ihren Höhepunkt fand die Widerstandstätigkeit im Aufstand des Warschauer Ghettos vom 19. April bis 16. Mai 1943. Er sollte ein Zeichen der Selbstbehauptung setzen.
Die Armia Krajowa sah den Zeitpunkt für eine Erhebung rund ein Jahr später gekommen. General Tadeusz Komorowski (1895-1966) war in Polen Oberkommandierender der Armia Krajowa. Er befahl Ende Juli 1944 den allgemeinen Aufstand gegen die deutschen Besatzer, um polnische Städte vor dem Einmarsch der herannahenden Roten Armee zu befreien und um damit den Anspruch der Armia Krajowa als legitimer Vertreter der Exilregierung zu bekräftigen. Am 1. August griffen rund 40.000 Soldaten der Armia Krajowa die in Warschau stationierten Besatzungstruppen an. Nach 63 Tagen erbitterten Widerstands hatten etwa 180.000 Polen, die meisten von ihnen Zivilisten, ihr Leben verloren.
Noch während des Warschauer Aufstandes begannen die Deutschen mit der Vertreibung der Zivilisten aus der Stadt. Mehr als 100.000 Menschen deportierten sie zur Zwangsarbeit ins Reich, weitere 60.000 in Konzentrationslager. Warschau wurde systematisch zerstört. Die Rote Armee griff nicht zugunsten der Aufständischen ein. Ein Sieg des nationalpolnischen Untergrundstaates hätte den Interessen der sowjetischen Führung widersprochen.