Terror und Verfolgung waren ebenso charakteristisch für das NS-Regime wie die unentwegte Propaganda. Während viele "Volksgenossen" ihren "Führer" Adolf Hitler bejubelten, ließ der Deutschland mit einem dichten Netz von Konzentrationslagern (KZ) überziehen, die Stätten brutalster Willkür waren. Mit der am 28. Februar 1933 erlassenen "Reichstagsbrandverordnung" schufen sich die Nationalsozialisten eine erste formaljuristische Handhabe zur rücksichtslosen Verfolgung ihrer Gegner. Seit März 1933 wurden von der Sturmabteilung (SA) und der Schutzstaffel (SS) wie in Oranienburg "staatliche Konzentrationslager" errichtet, in denen Gefangene misshandelt und häufig ermordet wurden. Jeder auch nur potentielle Gegner musste damit rechnen, in "Schutzhaft" genommen zu werden, was zum Synonym für staatlichen NS-Terror wurde.
Nach Ausschaltung der SA durch die SS 1934 baute Heinrich Himmler mit seinem Stellvertreter Reinhard Heydrich die SS und die Geheime Staatspolizei (Gestapo) zum Organ von Terror und Verfolgung aus. Nach dem Vorbild der Lagerordnung des KZ Dachau entstanden die Stammlager Sachsenhausen (1936), Buchenwald (1937), Ravensbrück (1938/39), Neuengamme (1938) und Flossenbürg (1938). Ihnen wurden zahlreiche Außen- und Arbeitslager angegliedert. Nach dem "Anschluss" Österreichs wurde mit der Errichtung des Lagers Mauthausen das System der Konzentrationslager auf Österreich übertragen. Unterstellt waren die Lager der SS-Institution "Inspektion der Konzentrationslager" unter Theodor Eicke (1892-1943), der zur Bewachung die bewaffneten SS-Totenkopfverbände aufgestellt hatte, die wie die KZ selbst aus dem Reichsetat finanziert wurden.
Immer mehr und neue Opfergruppen wurden in den Terror einbezogen: Den Kommunisten, Sozialdemokraten und Juden, die unmittelbar nach der Machtübernahme in die KZ verschleppt wurden, folgten bald Mitglieder religiöser Sekten und Orden, Pfarrer beider Konfessionen, die sogenannten Zigeuner und Homosexuelle, später Kriegsgefangene. Zahllose "Asoziale" wurden im Zuge einer "vorbeugenden Verbrechensbekämpfung" inhaftiert. Nach dem als "Reichskristallnacht" bekannt gewordenen Novemberpogrom von 1938 stieg die Zahl der KZ-Häftlinge auf rund 60.000 Personen an. Die Häftlinge wurden von der SS in verschiedene, um bessere Lebensbedingungen konkurrierende Gruppen eingeteilt. Damit wurden bewusst Gegensätze wie zwischen den "Roten", den politischen Häftlingen, und den überwiegend kriminellen "Grünen" geschürt. Benannt waren die KZ-Insassen nach farbigen Stoffdreiecken, die sie zur äußerlichen Kennzeichnung auf ihrer Kleidung tragen mussten und die ihnen die Stellung in der Rangordnung des Lagers zuwiesen. Weiter unten in der "Häftlingshierarchie" standen Juden (gelber Winkel), Homosexuelle (rosa Winkel), Sinti und Roma und "Asoziale" (schwarzer Winkel) sowie die als "Bibelforscher" bezeichneten Zeugen Jehovas (lila Winkel).
Wer in ein Konzentrationslager eingeliefert wurde, hatte es schwer, seine Freiheit wiederzuerlangen. Fluchtversuche endeten in der Regel tödlich. Die Lebensumstände in den Lagern waren menschenunwürdig. Kahlgeschoren, registriert und nummeriert und nur mit einer Häftlingsuniform bekleidet, hatten die Menschen ihre äußere Individualität und jegliche Rechte verloren. Sie lebten in ständiger Todesangst und waren der Willkür ihrer Bewacher ausgeliefert. Befolgten sie eine Regel der "Lagerordnung", so verstießen sie gegen eine andere: Beim "Frühsport" wurden sie durch den Schlamm geschickt und anschließend wegen ihrer verdreckten Kleidung bestraft. Grausamkeiten wie die willkürlich angeordneten "Appelle" bei Schnee und Kälte sollten den Willen der Häftlinge brechen und forderten ihre Opfer, "Einzelarrest" kam einem Todesurteil gleich. Wie bei den medizinischen Versuchen von Josef Mengele in Auschwitz fielen ähnlichen Versuchen an Menschen auch in den Konzentrationslagern innerhalb der Reichsgrenzen Tausende zum Opfer.
Nach Kriegsbeginn 1939 wurden bis März 1944 neben den sieben bestehenden Hauptlagern im Reich noch insgesamt 22 neue Lager mit 1.200 Außenlagern im besetzten Europa errichtet, eines davon war Vaihingen, ein Außenlager des KZ Natzweiler-Struthof. Seit Frühjahr 1942 unterstanden alle Lager dem Wirtschafts-Verwaltungshauptamt der SS unter Oswald Pohl. Um die Kriegsproduktion zu steigern, wurden die KZ-Häftlinge nun der "Vernichtung durch Arbeit" preisgegeben. Gewinnbringend organisierte Pohl die rücksichtslose Ausbeutung ihrer Arbeitskraft in den kriegswichtigen Produktionsstätten namhafter deutscher Industrieunternehmen. Allein in den ersten acht Monaten des Jahres 1943 starben rund 60.000 der insgesamt rund 220.000 Häftlinge an Auszehrung und durch Seuchen. Bewacht von rund 40.000 SS-Angehörigen, war die Zahl der registrierten KZ-Insassen im August 1944 auf über 500.000 gestiegen, im Januar 1945 lag deren Zahl über 700.000. Rund 90 Prozent von ihnen waren keine Deutschen. Bis zu 450.000 Menschen starben bis 1945 allein in den Lagern im Reichsgebiet an Gewalt, Unterversorgung, Krankheit oder durch Zwangsarbeit. Insgesamt gab es in den Jahren zwischen 1933 und 1945 zwischen 2,5 und 3,5 Millionen KZ-Häftlinge.
Angesichts der vorrückenden Sowjettruppen wurden auf Veranlassung Himmlers alle KZ-Häftlinge aus dem Osten nach Westen zurückverlegt. Die Gewaltmärsche forderten weitere Opfer. Und wer schließlich ein Auffanglager wie Bergen-Belsen erreicht hatte, war dort den grassierenden Seuchen ausgesetzt.
