Die erste, sechs Kilometer lange dampfkraftbetriebene Eisenbahnstrecke Deutschlands wurde am 7. Dezember 1835 zwischen Nürnberg und Fürth eröffnet. Mit der 120 Kilometer langen Strecke Leipzig-Dresden eröffnete am 8. April 1839 die erste deutsche Fernverbindung. Im Jahr zuvor, 1838, waren die Bahnverbindungen Berlin-Potsdam, Braunschweig-Wolfenbüttel, Düsseldorf-Erkrath eingeweiht worden. Es folgten München-Augsburg (1839), Magdeburg-Leipzig (1840), Mannheim-Heidelberg (1840), Frankfurt/M.-Wiesbaden (1840), Berlin-Dessau (1840), Berlin-Bergedorf (1842) und Berlin-Stettin (1843). Der Eisenbahnbau hatte anfänglich nicht nur Befürworter. Die meisten deutschen Fürsten lehnten grenzübergreifende Schienenwege zunächst generell ab.
Fuhrunternehmer protestierten gegen die neuen Transportmöglichkeiten, Ärzte fürchteten Gesundheitsschäden. Bauern sorgten sich, dass die "feuerspeienden Ungetüme" ihre Felder in Brand setzen und mit ihrem Lärm Viehherden rasend machen könnten.
Von 1840 bis 1850 verzehnfachte sich das Streckennetz im Deutschen Bund auf rund 5.700 Kilometer. Um die immensen Investitionskosten aufbringen zu können, übernahmen zunächst Aktiengesellschaften Bau und Betrieb der Eisenbahnen. Die einzelnen deutschen Staaten gaben ihnen Konzessionen und konnten dadurch auf die Streckenführung Einfluss nehmen. Eine gesamtdeutsche Abstimmung über den Verlauf des Schienennetzes gab es aufgrund der einzelstaatlichen Souveränität nicht. Zugleich stieg durch technische Fortschritte in Gleis- und Lokomotivbau die fahrplanmäßige Geschwindigkeit von anfangs 30 auf 50 km/h 1850. Im Jahr 1875 lag sie bereits bei 75 km/h und zur Jahrhundertwende bei 100 km/h.
Der europaweite Eisenbahnbau war eine treibende Kraft der rasanten Entwicklung von Industrie und Wirtschaft ab Mitte des 19. Jahrhunderts. Die enorme Nachfrage nach Rohstoffen, Maschinen und Schienen kurbelte auch in Deutschland die Steinkohleförderung, die Eisen- und Stahlindustrie sowie die Maschinenbauindustrie an. Durch den Ausbau des Schienennetzes sanken die Transportkosten deutlich. Produktionsstandorte wurden unabhängiger von Rohstoffvorkommen, Fertigwaren konnten grenzüberschreitend exportiert werden. Nach Gründung des Deutschen Reiches 1871 begann der Aufkauf der Privatbahnen durch die Einzelstaaten, auch aufgrund der gestiegenen militärischen Bedeutung dieses Transportmittels. Als mit dem Fürstentum Waldeck 1884 der letzte deutsche Staat Anschluss an das Eisenbahnnetz erhielt, belief sich die Streckenlänge in Deutschland auf 35.040 Kilometer. Trotz intensiver Bemühungen war es nicht zu der von Reichskanzler Otto von Bismarck gewünschten Errichtung einer deutschen Reichsbahn gekommen, da die größeren Staaten ihre Landeshoheit über Streckennetze und Konzessionsvergabe nicht aufgeben wollten. Eine zentrale Verwaltung der Eisenbahnen gab es erst ab 1920 mit Gründung der Deutschen Reichsbahngesellschaft.
