Stieß die von Adolf Hitler ab 1933 angeordnete Aufrüstung und der damit bezweckte Wiederaufstieg Deutschlands zu einer politischen und militärischen Großmacht noch auf eine nahezu ungeteilte Zustimmung in der deutschen Generalität und im Offizierskorps, so gingen zahlreiche Militärangehörige angesichts der Ereignisse um die Generale Werner von Blomberg und Werner Freiherr von Fritsch sowie Hitlers riskanter Außenpolitik ab 1938 auf Distanz zum NS-Regime. Im Rahmen von Hitlers außenpolitischen Kurs am Rande eines Kriegs in der Sudetenkrise 1938 entstanden erste Staatsstreichpläne. Ein Widerstandszentrum in der Wehrmacht war die militärische Abwehr unter Admiral Wilhelm Canaris, der auch die Aktivitäten seines Stabschefs Generalmajor Hans Oster deckte. Seit der "Sommerkrise" 1938 arbeitete Oster mit Ludwig Beck, Franz Halder und Erwin von Witzleben an Putschplänen, um sich Hitlers Kriegsabsichten entgegenzustellen und diesen gegebenenfalls zu verhaften.
Das "Münchner Abkommen" Ende September 1938 sowie die deutschen Erfolge zu Beginn des Zweiten Weltkriegs machten erfolgversprechende Aktionen des Militärs gegen die NS-Führung schließlich unmöglich. Hitler war nach dem Frankreichfeldzug 1940 auf dem Höhepunkt seiner Popularität, zu groß war bis 1941 der Siegesrausch in Deutschland, zu gering jegliche Unterstützung für einen Umsturz. Enttäuscht über das Ausbleiben einer militärischen Aktion gegen Hitler hatte Oster zuvor Norwegen und die Niederlande über die bevorstehenden Angriffe informiert. Als Hans von Dohnanyi, ein enger Mitarbeiter Osters, 1943 verhaftet wurde, geriet auch dieser unter Verdacht und stand seitdem unter Beobachtung der Geheimen Staatspolizei (Gestapo). Neuen Aufschwung erhielten zu diesem Zeitpunkt die Vorbereitungen zu einem Umsturz von jüngeren Offizieren um Claus Schenk Graf von Stauffenberg und Henning von Tresckow, die in engen Kontakt zu General Friedrich Olbricht und zum zivilen Widerstand um Carl Friedrich Goerdeler standen. Angesichts der Massenmorde und anderer deutscher Verbrechen im Osten sowie der aussichtslosen militärischen Lage Deutschlands nahm eine oppositionelle Haltung innerhalb der Wehrmacht zu. Doch nur wenige waren wie Stauffenberg und Tresckow, dem es 1943 gelang, eine Zeitbombe in Hitlers Flugzeug zu plazieren, deren Zünder allerdings versagte, zum Widerstand bereit. Zumeist waren es schwere Gewissenskonflikte, die sie von einer Beteiligung an einem Attentat gegen Hitler, auf den sie als Soldaten den Eid geleistet hatten, abhielten.
Die Aktivitäten des militärischen Widerstands um Stauffenberg, Olbricht, Witzleben und Beck führten geradewegs zum Attentat gegen Hitler am 20. Juli 1944. War Hitler zunächst davon ausgegangen, dass es sich bei den Verschwörern vom 20. Juli 1944 um eine "ganz kleine Clique ehrgeiziger Offiziere" handelte, so stellte sich bald heraus, dass die hinter dem Attentat Stauffenbergs stehende Gruppe weit über das Militär hinausreichte und sich bis in vermeintlich "parteitreue Kreise" erstreckte. Die zur Verfolgung der Attentäter gegründete "Sonderkommission 20. Juli" wuchs schnell auf über 400 Beamte an. Insgesamt wurden – auch durch die schon vor dem Anschlag vorbereitete „Aktion Gewitter“ – Tausende Personen, darunter ehemalige Abgeordnete und Funktionäre der Kommunistischen Partei Deutschlands (KPD), der Sozialdemokratischen Partei Deutschlands (SPD) und des Zentrums, in den Monaten nach dem 20. Juli verhaftet.
Die Rache des NS-Regimes strafte gnadenlos auch jene, die sich nicht aktiv am Umsturz beteiligten, jedoch davon Kenntnis hatten. Gegen Kriegsende gingen Terror und Verfolgung weit über den Widerstand hinaus. Bis zum letzten Kriegstag - und in einigen Fällen selbst nach der Kapitulation - wurden Menschen wegen "Wehrkraftzersetzung" hingerichtet.
