Τα Γ.Α.Κ. - Αρχεία Ν. Ροδόπης ιδρύθηκαν με τη δημοσίευση του Νόμου 1946/91 περί Γενικών Αρχείων του Κράτους. Ο Νόμος αυτός καθορίζει το νομοθετικό πλαίσιο που διέπει τη λειτουργία των Γ.Α.Κ., ως αυτοτελούς δημόσιας υπηρεσίας που υπάγεται απευθείας στον Υπουργό Παιδείας, Έρευνας και Θρησκευμάτων. Η λειτουργία της Υπηρεσίας ξεκίνησε την 1η Νοεμβρίου 1994, σύμφωνα με την απόφαση ΙΣΤ/Φ.ΔΙΟΙΚ/1156/24.10.1994 του Τμήματος Ιστορικών Αρχείων του Υπουργείου Εθνικής Παιδείας και Θρησκευμάτων. Έκτοτε, έδρα τους είναι η Κομοτηνή, πρωτεύουσα του Νομού Ροδόπης.
Στέγαση
Κατά τα πρώτα χρόνια λειτουργίας τους (1/11/1994-31/8/1998) τα Γ.Α.Κ. - Αρχεία Ν. Ροδόπης φιλοξενήθηκαν σε χώρους του Δημαρχείου Κομοτηνής, ενώ από 1 Σεπτεμβρίου 1998 έως 31 Αυγούστου 1999 η Υπηρεσία φιλοξενήθηκε από τη Διεύθυνση Δευτεροβάθμιας Εκπαίδευσης Νομού Ροδόπης στο Τεχνικό Λύκειο Κομοτηνής. Από 1 Σεπτεμβρίου 1999, με απόφαση της Περιφέρειας Ανατολικής Μακεδονίας και Θράκης, εγκρίθηκε η παραχώρηση στα Γ.Α.Κ. - Αρχεία Ν. Ροδόπης, γραφείου στον 1ο όροφο του ανακαινισμένου κτηρίου του Παλαιού Οικονομικού Γυμνασίου Κομοτηνής, όπου στεγαζόταν και το Κέντρο Συμβουλευτικής και Προσανατολισμού (ΚΕ.ΣΥ.Π) Ροδόπης.
Από το Δεκέμβριο του 2008, η Υπηρεσία στεγάζεται σε μισθωμένο κτήριο στην οδό Δημάρχου Δημητρίου Μπλέτσα 19, στο κέντρο της πόλης της Κομοτηνής. Το κτήριο κτίστηκε στα 1955 και έως τη δεκαετία του 1970 στέγαζε τη Χειρουργική Κλινική Παπαδημητρίου. Το κτήριο έχει συνολική επιφάνεια 220 τ.μ και διαθέτει γραφεία, βοηθητικούς χώρους, τέσσερα αρχειοστάσια και χώρο Αναγνωστηρίου.