Le 28 mai 1695, le prince électeur Frédérique III (après 1701 roi Frédérique Ier) posa la première pierre du Zeughaus de Berlin (l'arsenal), pour réaliser un projet de son père. Le »Grand Electeur« Frédérique Guillaume avait exprimé dans son testament politique de l'année 1667 le souhait d'ériger un magnifique arsenal. Le premier architecte était Johann Arnold Nering (1659-1695). Il fut suivi par Martin Grünberg (1655-1706) et, de 1698 à 1699, par Andreas Schlüter (1659-1714). Jean de Bodt (1670-1745) l'acheva en lui donnant son apparence extérieure en 1706. L'achèvement général jusqu'à l'emménagement définitif fut retardé jusqu'en 1730, faute d'argent. L'arsenal est l'édifice le plus ancien de »Unter den Linden«. Par son architecture représentative il est bien davantage qu'un simple dépôt d'armes. Créé à l'époque de l'ascension du Land Brandebourg-Prusse, il était le symbole de sa puissance militaire. Il compte parmi les plus belles constructions baroques profanes de l'Allemagne du Nord. L'édifice doit sa place particulière dans l'histoire de l'art à sa beauté de ses sculptures, surtout aux 22 têtes de guerriers mourants dans la cour intérieure, qui sont l'œuvre de l'artiste Andreas Schlüter.
L'inscription latine au-dessus du porche principal nomme le but de l'édifice: »Conservation de toutes les armes de guerre ainsi que les butins et trophées de guerre«. En 1732 se trouvaient à côté de 604 canons prussiens également 119 armes à feu conquises, françaises, bavaroises, polonaises, suédoises et d'autres dans l'arsenal. Le rez-de-chaussée hébergeait l'artillerie et l'étage supérieur les armes d'infanterie plus leurs accessoires. Au 18ième siècle, l'arsenal était le plus grand dépôt d'armes de Brandebourg-Prusse, qui au cours de la première moitié du siècle s'était développé en plus grande puissance militaire parmi les Etats allemands. Pendant plus d'un siècle et demi, l'édifice servait de magasin. Au cours de son histoire il a partagé le destin de nombreux arsenaux, remplis, pillés pour être ensuite remplis à nouveau. En 1760, Berlin était occupé par les troupes russes et en 1806 par les troupes françaises. Les deux fois, l'Arsenal fut pillé. Après les guerres de libération de 1813/15 1'édifice se remplit de nouveau du butin. La »Collection d'armes et de maquettes royales« installée à l'Arsenal était accessible au public à partir de 1828. En 1844 »la première exposition générale de produits industriels allemands« eut lieu à l'Arsenal de Berlin. Au mois de juin 1848 1'Arsenal fut pris d'assaut. A la suite des »guerres d'unification« de 1864,1866 et 1870/71 un grand nombre de pièces de butins vinrent agrandir les collections du musée. En 1872 les salles de l'Arsenal furent utilisées pour »l'exposition d'objets anciens de l'artisanat d'art«.
L'arsenal fut transformé sur l'initiative de l'Empereur Guillaume de 1877 à 1880 selon les plans de Friedrich Hitzig (1811-1881) pour la somme de 4,33 millions de marks en »temple à la gloire de l'armée du Land Brandebourg-Prusse«. La conception et sa réalisation font nettement apparaître le modèle dont s'inspire l'édifice, l'Arsenal de Vienne. L'ancien arsenal prussien fut ainsi définitivement transformé en musée. Parmi les modifications architecturales les plus importantes il y a: la toiture qui recouvre la cour, le double grand escalier, la voûte de l'étage supérieur ainsi que la coupole au centre de l'aile nord. Depuis 1883, le rezde-chaussée avec la section de l'artillerie et du génie militaire et, à l'étage supérieur, la collection d'armes furent accessibles au public. L'aménagement artistique du Panthéon - monument à la gloire du Land Brandebourg-Prusse n'a été achevé qu'en 1891. Les collections militaires historiques de la fin du 19ième siècle étaient parmi les plus renommées d'Europe. Elles se composaient essentiellement de la collection d'armes léguée par le prince Charles de Prusse, acquise en 1883. Le »Zeughaus« se développa pour devenir un des musées de Berlin les plus populaires. Guillaume II se servit toujours davantage du panthéon. Depuis 1897 la bénédiction des drapeaux et des pavoisements avaient lieux tous les ans à l'anniversaire de l'Empereur et à d'autres occasions solennelles.
La fin de la première guerre mondiale marque également la fin de la monarchie en Allemagne. Le Berliner Zeughaus, qui antérieurement était soumis au ministère de la guerre fut intégré en 1920 aux »Collections d'art prussiennes«. Le Traité de Versailles de 1918 prévoyait que le butin de guerre de 1870/71 dans son intégralité fût rendu et que d'autres pièces fussent rendues inutilisables. Pendant la République de Weimar, le Zeughaus avec ses collections jouait un rôle plus discret. La collection d'armes fut réorganisée d'après des critères scientifiques pour effacer son rôle »d'institution pour l'élévation patriotico-militaire«. En 1933, après la prise du pouvoir par les nationaux-socialistes, la cour vitrée fut de nouveau le cadre de défilés militaires et de cérémonies commémoratives. Le retour aux traditions prussiennes et militaires repris de plus belle. La première guerre mondiale était le sujet de nombreuses expositions qui avait pour but de réviser à l'aide de techniques d'armement exceptionnelles l'image de la guerre perdue. En 1939, Adolf Hitler ordonna la reprise des musées de l'armée de Berlin, de Dresde et de Munich par la Wehrmacht. Dans ses discours prononcés lors de la journée commémorative des héros dans le Zeughaus, il glorifiait l'héroïsme allemand. A la fin de la deuxième guerre mondiale, le monument à la gloire de la guerre fut gravement atteint par des bombes explosives et incendiaires.
Le 18 octobre 1945, le »Kriegsmuseum Zeughaus« (musée de guerre de l'arsenal) fut dissout par une décision du commandement allié de la ville de Berlin. Pendant les premières années après 1945, l'édifice pouvait être utilisé pour des expositions malgré les destructions de la guerre. En janvier 1946 déjà, une exposition de l'industrie et de l'artisanat »Berlin baut auf« (Berlin se reconstruit) fut montrée. En 1947, le musée de l'art de Berlin ouvrait dans le »Schlüterbau«. La reconstruction commençant en 1948 avait pour but, de rétablir l'état initial sans les adjonctions ni les transformations du 19ième siècle, d'abord selon les plans de l'architecte Werner Harting (1904-1987) pour en faire une »Maison de la Culture«. A partir de septembre 1950 le projet du »Musée de l'Histoire Allemande« dans l'Arsenal fut entrepris, selon les plans d'Otto Haesler (1880-1962). Une révision ultérieure de plans intervint lorsque en 1952 1'ensemble des travaux fut confié à »Entwurfsbüro« (collectif d'architectes). La reconstruction avec ses péripéties dura jusqu'en 1967. Extérieurement, l'édifice reprit son apparence d'origine, à l'intérieur, un squelette en acier fut installé pour porter la charge propre et utile du bâtiment. Depuis 1952, le nouveau musée de l'histoire allemande, fondé par le comité central du SED (parti socialiste unifié) avait son siège à l'Arsenal. L'objectif du musée était de transmettre l'histoire dans l'esprit marxiste-léniniste. Suivant ce principe, le musée de l'histoire allemande, principale institution de ce genre en RDA, développa une activité d'exposition et de collection intense. Au mois de septembre 19901e musée fut dissout.
En 1987 la République Fédérale d'Allemagne fondait avec le Land Berlin le »Deutsches Historisches Museum«. Il devait trouver sa place dans une construction nouvelle selon le projet d'Aldo Rossi obliquement en face du Reichstag. Après la réunification ce projet fut abandonné au profit du musée de l'Arsenal. Un assainissement approfondi de l'édifice est prévu pour les années 1995 -1998. Selon les projets, les structures baroques de l'intérieur devraient être remises à jour là où cela est possible. Jusqu'au début de l'assainissement général, le Deutsches Historisches Museum héberge des expositions itinérantes à l'Arsenal.