Nach dem deutschen Überfall auf die Sowjetunion am 22. Juni 1941 besetzte die Wehrmacht bis Oktober 1941 fast die gesamte Ukraine. Die Schlacht um Kiew hatten die Deutschen bereits Mitte September für sich entschieden. In der Stadt selbst begannen Einsatzgruppen sofort mit der Erfassung der jüdischen Einwohner. Am 27. September 1941 fand eine Besprechung über die "Evakuierung" der jüdischen Bevölkerung statt. Daran nahmen neben dem Ortskommandeur von Kiew unter anderem auch Wehrmachtsoffiziere, Angehörige der Sicherheitspolizei, der Geheimen Feldpolizei und der Einsatzgruppe C teil. Der Höhere SS- und Polizeiführer im rückwärtigen Heeresgebiet Süd, Friedrich Jeckeln (1895-1946), der Befehlshaber der Einsatzgruppe C, Emil Otto Rasch (1891-1948), sowie der Befehlshaber des Sonderkommandos 4a der Einsatzgruppe C, Paul Blobel (1894-1951), beschlossen, die Kiewer Juden zu ermorden. Mit der Durchführung wurde das Sonderkommando 4a beauftragt.
Auf Plakaten wurden die Kiewer Juden aufgefordert, sich zu Umsiedlungsmaßnahmen einzufinden. Dem Befehl folgten über 30.000 Menschen, die zur außerhalb der Stadt gelegenen Schlucht Babi Jar getrieben wurden. Dort mussten sie Papiere, Gepäck sowie Wertgegenstände abgeben, sich vollständig ausziehen und sich in Zehnergruppen an den Rand der Schlucht stellen. Dann wurden sie niedergeschossen. In Babi Jar ermordete das Sonderkommando laut einem Einsatzgruppenbericht am 29. und 30. September 33.771 Juden. In den folgenden Monaten wurden dort Tausende weiterer Juden erschossen. Auch als "Zigeuner" verfolgte Menschen und sowjetische Kriegsgefangene zählten zu den späteren Opfern. Insgesamt wurden nach Untersuchungen der sowjetischen Staatskommission in Babi Jar rund 100.000 Menschen ermordet.
Im Juli 1943, während des deutschen Rückzugs, sollten die Spuren des Massenmords verwischt werden. Polizeieinheiten der Sonderkommandos ließen Insassen eines nahe gelegenen Lagers die Leichen ausgraben und verbrennen.