Nach Art. 1 der Archivverordnung dient das Staatsarchiv der Sicherstellung, Aufbewahrung und Erschließung historischer Dokumentationen zur Geschichte Graubündens sowie der geordneten Archivierung aller wesentlichen Verwaltungsdokumentationen des Kantons.

Durch den Zusammenschluß des Grauen Bundes, des Gotteshausbundes und des Zehngerichtenbundes im Jahre 1524 entstand der Freistaat der Drei Bünde, aus dem der heutige Kanton Graubünden hervorgegangen ist. Die Schaffung eines Landesarchivs der Drei Bünde muß zwischen 1530 und 1567 erfolgt sein. Es wurde im Gewölbe des Churer Rathauses untergebracht und durch den Churer Stadtschreiber betreut, der die laufenden Landesgeschäfte besorgen mußte.

Die ersten Archivinventare datieren aus den Jahren 1730 und 1740. 1760/61 wurde das Archiv in das sogenannte Burgauersche Haus in Chur verlegt, das zu einem Archivgebäude umgebaut worden war. Darauf wurden die Archivbestände neu geordnet und inventarisiert. Die Kriegsjahre um die Wende vom 18. zum 19.Jh. überlebte das Landesarchiv unbeschadet.

Durch die Mediationsakte vom 19. Februar 1803 wurde Graubünden als gleichberechtigter Kanton in die Schweizerische Eidgenossenschaft aufgenommen. Nach dem Ankauf des sogenannten "Neuen Gebäudes" als Regierungssitz wurde das bestehende Akten- und Büchermaterial 1807 dorthin verlegt. Das mit dem alten Landesarchiv vereinigte Kantonsarchiv blieb während des ganzen 19.Jh. im Erdgeschoß des Regierungsgebäudes, bis es in dem 1905 fertiggestellten neuen Archiv- und Bibliotheksgebäude im Karlihof unmittelbar hinter dem Regierungsgebäude untergebracht wurde.

Das Archiv wurde bis 1837 als Nebenamt verwaltet. 1850 wurde die Archivarsstelle aufgehoben und die Archivverwaltung dem Kanzleiregistrator übertragen. Erst 1887 kam die endgültige Trennung von Registratur und Archiv zustande.

Die heutige Ordnung des Staatsarchivs beruht weitgehend auf einem 1887 entworfenen Archivplan, der jedoch in der zwischen 1945 und 1953 erfolgten Reorganisation des Staatsarchivs wesentlich ausgebaut und erweitert wurde.