Als Geburtsjahr des Archivs gilt 1482, als Graf Eberhard im Bart nach der Wiedervereinigung Württembergs durch den Münsinger Vertrag eine Neuorganisation seiner Verwaltung einleitete. Mit der Trennung der Hofregistratur von der Kanzlei entstand ein sogenanntes Auslesearchiv. Die wichtigsten Urkunden, Akten und Amtsbücher Altwürttembergs (d.h., des Gebiets der Grafschaft und des Herzogtums Württemberg in den Grenzen bis 1803/06) wurden von nun an im Alten Schloss in Stuttgart verwahrt und hier nach Sachgebieten geordnet. Durch die mit der Erhebung zum Königreich verbundenen umfangreichen Gebietserwerbungen zu Beginn des 19. Jahrhunderts kamen weitere ausgewählte Dokumente aus neuwürttembergischen Territorien, säkularisierten Klöstern und mediatisierten Reichsstädten ins nunmehr Königliche Haus- und Staatsarchiv. Dafür wurde dann 1969, bei der Abgrenzung zwischen den Ludwigsburger und den Stuttgarter Beständen, die Zuständigkeit des Hauptstaatsarchivs für diejenigen Archive der neuwürttembergischen Territorien, die im Regierungsbezirk Südwürttemberg-Hohenzollern erwachsen sind, festgelegt.

Das Hauptstaatsarchiv ist außerdem zuständig für die Unterlagen der obersten Hof- und Landesbehörden des 19. und 20. Jahrhunderts. Die Verwaltungsunterlagen der württembergischen Ministerien blieben im 19. Jahrhundert noch überwiegend in deren Registraturen; eine Ausnahme bildeten das Innen- und des Finanzministerium, deren Schriftgut im Ludwigsburger Schloss archiviert wurde. Erst 1921, nach der Bildung des Volksstaats Württemberg, erfolgte die Regelung, nach der für das staatliche Archivgut des Landes das Staatsarchiv allein zuständig war.

Ebenfalls 1921 wurde das private Archiv der herzoglichen Familie abgetrennt. 1945 wurde dem Hauptstaatsarchiv das ehemalige Heeresarchiv angegliedert; dessen Bestände das Archivgut militärischer Provenienzen Württembergs aus dem 19. und 20. Jahrhundert umfassen. Seit 1826 befand sich das Königliche Haus- und Staatsarchiv in einem Archivzweckbau an der Stuttgarter Neckarstraße.

Das Archivgebäude des (seit 1938 so genannten) Hauptstaatsarchivs wurde im Zweiten Weltkrieg stark beschädigt. Während sich dank rechtzeitiger Auslagerungen die Verluste an Archivalien in Grenzen hielten, ging ein großer Teil des noch in den Ministerien lagernden Registraturguts des 19. und 20. Jahrhunderts durch Kriegseinwirkungen verloren. 1969 bezog das Hauptstaatsarchiv einen Neubau, der an Stelle der abgebrochenen Ruine errichtet wurde. Mit dem Audiovisuellen Archiv erhielt das Hauptstaatsarchiv 1990 eine Nebenstelle in der Olgastraße 80. Infolge der Verwaltungsreform wurde das Hauptstaatsarchiv Stuttgart am 1. Januar 2005 eine Abteilung des Landesarchivs Baden-Württemberg.