Der Widerstand gegen das NS-Regime war breit gefächert. Er reichte von passiver Resistenz und non-konformem Verhalten bis zu Emigration und dem "generalstabsmäßig" geplanten Attentats- und Umsturzversuch vom 20. Juli 1944. Getragen wurde der Widerstand von Männern und Frauen aus allen sozialen Schichten und politischen Lagern. Oppositionskreise in der Wehrmacht zählten ebenso dazu wie die Mitglieder der "Weißen Rose", des "Kreisauer Kreises" oder der "Roten Kapelle". Daneben gab es die vielen "unbesungenen Helden", die Verfolgten Unterschlupf gewährten oder sie mit Lebensmitteln versorgten. Während Thomas Mann sich aus der Emigration über den Londoner Rundfunk an die deutsche Bevölkerung wandte, schlossen sich andere Emigranten wie der deutsche Kommunist und Jude Harald Hauser der französischen Résistance an, um mit der Waffe gegen das "Dritte Reich" zu kämpfen.
Eine Widerstandsgruppe in Berlin, die rund 50 Frauen und über 100 Männer umfasste, wurden von der Geheimen Staatspolizei (Gestapo) mit dem Sammelbegriff "Rote Kapelle" belegt. Die Anfänge der Organisation reichten bis in das Jahr 1933 zurück, als in kleinen Freundeskreisen Kritik am NS-Regime geäußert wurde. Aber erst 1939 begann die Zusammenarbeit zwischen den Gruppen um Arvid Harnack und Harro Schulze-Boysen. Durch ihren Funkkontakt zur Sowjetunion wurden sie im August 1942 enttarnt. Von den 130 festgenommenen Mitgliedern der "Roten Kapelle" wurden 49 umgebracht. Zu ihnen zählte auch das Ehepaar Hans Coppi und Hilde Coppi: Hans Coppi wurde am 22. Dezember 1942 vom Reichskriegsgericht zum Tode verurteilt und am selben Tag in Berlin-Plötzensee hingerichtet. Nur wenige Wochen zuvor hatte seine Frau Hilde im Frauengefängnis Barnimstraße einen Sohn geboren. Auch sie wurde zum Tode verurteilt und - nachdem Hitler ein Gnadengesuch abgelehnt hatte - am 5. August 1943 in der Strafanstalt Plötzensee hingerichtet.
Widerstand gab es auch in den Kirchen. So verurteilte der Bischof von Münster, Clemens August Graf von Galen, in mehreren Predigten die nationalsozialistische Terrorherrschaft und geißelte die als "Euthanasie" bekannt gewordenen Massentötungen als vorsätzlichen Mord. Mindestens 70.000 "unheilbar Kranke" wurden im Zuge des "Euthanasie-Programms" ermordet. Als diese Mordaktion Heil- und Pflegeanstalten in Westfalen erreichte, wandte Galen sich in einer stark beachteten Predigt am 3. August 1941 gegen die als "Gewährung des Gnadentods" verbrämte Massentötung und erstattete Anzeige nach Paragraph 211 des Strafgesetzbuches. Britische Flugzeuge warfen Flugblätter mit Auszügen der "Euthanasie-Predigt" ab, und auch Mitschriften anderer Predigten Galens gingen von Hand zu Hand. Während die NS-Machthaber vor einer Festnahme des populären Bischofs zurückschreckten, wurde der Berliner Dompropst Bernhard Lichtenberg , der als einer von wenigen auch gegen die Deportation von Juden aufgetreten war, verhaftet. Er verstarb am 5. November 1943 auf dem Weg in das Konzentrationslager (KZ) Dachau.
In der evangelischen Kirche war der Dahlemer Pfarrer Martin Niemöller einer der konsequentesten NS-Gegner. Er gründete im September 1933 den Pfarrernotbund, der Anfang 1934 rund 7.000 Mitglieder zählte und gegen die Einführung des "Arierparagraphen" in Kirchenämter und die Entlassung von Geistlichen "jüdischer Herkunft" protestierte. Aus dem Notbund ging wenig später die "Bekennende Kirche" hervor. Sie berief sich in der Auseinandersetzung mit dem NS-Staat und mit den "Deutschen Christen", die sich als "SA Jesu Christi" verstanden, auf ein "Kirchliches Notrecht", das den religiösen Widerstand legitimierte. Eine christliche Gesinnung führte auch den evangelischen Theologen Dietrich Bonhoeffer in den Widerstand. Nach Beginn des Zweiten Weltkriegs unterhielt er enge Kontakte zur militärischen Opposition um Admiral Wilhelm Canaris und Hans Oster und wurde am 9. April 1945 gemeinsam mit diesen im KZ Flossenbürg hingerichtet. Als einzige Glaubensgemeinschaft verweigerten sich die Zeugen Jehovas dem NS-Regime in aller Konsequenz. Trotz Verbot, Verfolgung und Konzentrationslagerhaft hielten die meisten Mitglieder an ihrer Glaubensgemeinschaft fest.
Der nationalkonservative Leipziger Oberbürgermeister Carl Friedrich Goerdeler, ein auch von Hitler hoch angesehener Finanzfachmann, trat 1937 aus Protest gegen den in Deutschland herrschenden Antisemitismus sowie die nationalsozialistische Wirtschafts- und Finanzpolitik von seinem Posten zurück. Nach Kriegsbeginn wurde Goerdeler zum Mittelpunkt eines konservativ, nationalliberal ausgerichteten Widerstandskreises, dem auch der frühere deutsche Botschafter in Italien, Ulrich von Hassell, sowie General Ludwig Beck, über den Goerdeler Zugang zu militärischen Widerstandskreisen erhielt, und Johannes Popitz angehörten. An den Planungen zu einem Umsturzversuch und der Neuordnung Deutschlands nach Überwindung der NS-Herrschaft nahmen aber auch Gewerkschafter wie Wilhelm Leuschner und Jakob Kaiser (1888-1961) teil. Hinsichtlich der Staatsform, wie sie 1941 in der Denkschrift "Das Ziel" dargelegt wurde, neigte der Goerdeler-Kreis zur Wiedereinführung der Monarchie und zu einem Zweikammer-System.
Ein Zentrum des bürgerlich zivilen Widerstands war der "Kreisauer Kreis", benannt nach dem niederschlesischen Gut Kreisau von Helmuth James Graf von Moltke, wo ab 1940 auf regelmäßigen Treffen Konzepte für eine grundlegende staatliche, wirtschaftliche und soziale Neuordnung Deutschlands nach dem Sturz der NS-Diktatur erörtert wurden. Im Unterschied zu anderen Widerstandsgruppen lehnte der "Kreisauer Kreis" Nationalismus weitgehend ab und orientierte sich an einer europäischen Föderation. Vor allem über Adam von Trott zu Solz suchte der Kreis Kontakte zu anderen Widerstandsgruppen im In- und Ausland sowie zu den Alliierten. Ab 1943 wuchs auch bei den Mitgliedern des "Kreisauer Kreises" die Überzeugung von der Notwendigkeit eines Staatsstreichs. Nach der Verhaftung Moltkes im Januar 1944 schlossen sich einige Mitglieder der Gruppe um Claus Schenk Graf von Stauffenberg und Goerdeler an und wirkten an den Vorbereitungen zum Attentat auf Adolf Hitler am 20. Juli 1944 mit.
Angesichts der Kriegswende in der Sowjetunion, wo nach der für die Wehrmacht verlorenen Schlacht um Stalingrad im Februar 1943 zunehmend die Rote Armee die Oberhand gewann, hatte auch in Militärkreisen der Widerstand gegen Hitler und gegen den von ihm befohlenen Vernichtungskrieg im Osten zugenommen. Ab 1943 entwarfen Wehrmachtsoffiziere um Stauffenberg, Friedrich Olbricht und Henning von Tresckow in Verbindung mit dem zivilen Widerstand um Beck, Goerdeler und Mitglieder des "Kreisauer Kreises" Pläne für eine Regierung nach dem Sturz des NS-Regimes. Ihnen gelang es, Dutzende von Unterstützern innerhalb und außerhalb der Wehrmacht für den geplanten Staatsstreich zu gewinnen. An dem Umsturzversuch beteiligten sich die Männer aus ganz unterschiedlichen Motiven. Einige hatten den verbrecherischen Charakter des NS-Regimes schon früh erkannt und waren gegen dieses seit den 30er Jahren aktiv. Viele Militärs waren über die im Namen Deutschlands begangenen Verbrechen in Europa informiert und hatten eingesehen, daß sie als Offiziere den von Deutschland entfachten Krieg selbst zu lange mitgetragen hatten. Andere Männer hingegen wollten angesichts der militärischen Situation und der sich nun abzeichnenden Niederlage nicht viel mehr, als ihre eigene Haut retten. Die Verschwörer planten die Beseitigung des NS-Regimes und Friedensschlüsse mit den Kriegsgegnern, um weitere Opfer zu vermeiden und um den Beweis anzutreten, daß Deutschland aus eigener Kraft mit der Diktatur gebrochen habe. Über die Zukunft Deutschlands aber herrschte Ungewißheit und Uneinigkeit, die Rückkehr zur parlamentarischen Demokratie der Weimarer Republik strebten die Wenigsten an.
Nach dem misslungenen Umsturzversuch am 20. Juli 1944 wurden in den folgenden Wochen Tausende von Regimegegnern festgenommen, die genaue Zahl der Ermordeten ist nicht bekannt.
Mit den alliierten Truppen kamen 1945 auch Deutsche zurück in ihre Heimat, die schon in den 1930er Jahren ins Ausland geflohen und dort der Armee beigetreten waren. So nahm der Schriftsteller Stefan Heym als Soldat der US-Armee im Juni 1944 an der alliierten Invasion in Frankreich und an dem Vormarsch ins Deutsche Reich teil. Andere schlossen sich erst während des Krieges als Gefangene oder Überläufer den gegnerischen Streitkräften oder beispielsweise dem Nationalkomitee "Freies Deutschland" (NKFD) an. Ihm gehörten kommunistische Funktionäre und Intellektuelle im sowjetischen Exil sowie ehemalige Wehrmachtssoldaten an. Unter Führung der deutschen Exilkommunisten Wilhelm Pieck und Walter Ulbricht forderte das NKFD über den Radiosender "Freies Deutschland" die Bevölkerung im Deutschen Reich zum Staatsstreich gegen Hitler auf. An den Frontlinien konzentrierte sich die Tätigkeit des NKFD ebenfalls auf propagandistische Maßnahmen: Mit Lautsprecherdurchsagen und Flugblättern rief es die Wehrmachtssoldaten zur Einstellung der Kämpfe und zum Überlaufen auf. Gefangene oder übergelaufene Soldaten mit Interesse an der Mitarbeit im NKFD nahmen in Lagern an kommunistischen Umschulungen teil, für Hitler und treue Angehörige der Wehrmacht galten sie als Verräter.