Auf Initiative des Reichsführers SS, Heinrich Himmler, wurde 1931 ein Nachrichtendienst innerhalb der Schutzstaffel (SS) eingerichtet. Unter der Bezeichnung Sicherheitsdienst (SD) des Reichsführers SS stand der SD ab Juli 1932 unter der Leitung von Reinhard Heydrich. Zu den Aufgaben des SD gehörte ebenso die Beobachtung gegnerischer Parteien und politischer Organisationen wie die Überwachung oppositioneller Strömungen innerhalb der nationalsozialistischen Bewegung. Zu einem gefährlichen Opponenten für die nationalsozialistische Führung entwickelte sich nach ihrer Machtübernahme 1933 der Stabschef der Sturmabteilung (SA), Ernst Röhm. Aus Enttäuschung über den Verlauf der "nationalsozialistischen Revolution" stellte er die Gefolgschaft gegenüber dem NS-Regime erheblich in Frage. Mit der Parteiarmee im Rücken forderte er eine "Zweite Revolution", um die SA zur dominierenden Kraft in Staat und Gesellschaft zu machen. Auf Betreiben Himmlers sammelte der SD Belastungsmaterial gegen die Führung der SA, um sie im Vorfeld eines angeblich geplanten "Röhm-Putsches" Anfang Juli 1934 zu ermorden.
Im Sommer 1934 wurde der SD zum einzigen Nachrichtendienst der Nationalsozialistischen Deutschen Arbeiterpartei (NSDAP) erklärt. Andere Nachrichtendienste der Partei - wie das Amt Information der Deutschen Arbeitsfront (DAF) - gingen im SD auf. Gleichzeitig legte Himmler in einer Verfügung die Arbeitsgebiete von SD und Geheimer Staatspolizei (Gestapo) fest: Der SD war für die Ermittlung von Gegnern des NS-Regimes zuständig, die Gestapo für die Gegnerbekämpfung. Die Gewähr für eine enge Kooperation zwischen Gestapo und SD bot Heydrich, der beide Institutionen in Personalunion führte. Mit Hilfe eines ausgedehnten Spitzel- und Informationsnetzes überwachte der SD die deutsche Bevölkerung. Rund 30.000 sogenannte Vertrauensleute informierten den SD über alle Bereiche des öffentlichen Lebens und lieferten Berichte über die Wirkungen der von der NS-Führung verfügten Maßnahmen und Gesetze. Zudem gab der SD Beurteilungen über die politische Zuverlässigkeit von Parteifunktionären und Offizieren ab, die Auswirkungen auf die Laufbahn zur Folge hatten. In Konkurrenz zu der von Wilhelm Canaris geleiteten Abwehrabteilung im Reichskriegsministerium baute der SD als nationalsozialistische Parteiinstitution einen eigenen Auslandsnachrichtendienst auf.
Der SD entwickelte sich zu einem höchst effizienten Nachrichtenapparat, dem 1944 rund 6.400 hauptamtliche Mitarbeiter angehörten. Am 27. September 1939 - knapp vier Wochen nach Beginn des Zweiten Weltkriegs - wurde der SD mit der Sicherheitspolizei (Sipo) zum Reichssicherheitshauptamt (RSHA) unter Leitung Heydrichs zusammengefasst. Der von Himmler angestrebte Verschmelzungsprozess von staatlichen Polizei- und Überwachungsämtern mit denen der NSDAP war damit abgeschlossen. Nach Heydrichs Tod leitete Ernst Kaltenbrunner ab Januar 1943 den SD und das RSHA, das zu diesem Zeitpunkt die zentrale Schaltstelle für die Überwachung, Terrorisierung und Ermordung von Millionen Menschen im In- und Ausland darstellte. Im besetzten Polen und vor allem ab Sommer 1941 im Krieg gegen die Sowjetunion ermordeten vom RSHA zusammengestellte Einsatzgruppen hunderttausende Menschen, zumeist Juden. Rekrutiert wurden für die Einsatzgruppen Männer aus dem SD und der Sipo sowie aus der Waffen-SS. Im nationalsozialistischen Sinn waren die Einsatzgruppen eine Eliteorganisation mit weltanschaulichem Vollstreckungsauftrag. Die Mordkommandos wie auch der SD insgesamt verzeichneten in ihren Führungspositionen einen hohen Akademikeranteil, der ideologisch gefestigt den systematischen Völkermord an den Juden und an anderen Gruppen einleitete.