Pierwotnie w budynku tym mieściły się więzienie oraz obóz pracy przymusowej. W więzieniu przebywali zarówno żołnierze podziemia, jak i mieszkańcy Mławy - cywile. Odsiadywali wyroki za przestępstwa polityczne, nawet tak absurdalne, jak ubój zwierząt gospodarskich.
Archiwum Państwowe przy ulicy Narutowicza działa od 15 listopada 1950 roku. Od 1999 roku archiwum odejmuje swoim zasięgiem powiaty: ciechanowski, działdowski, mławski, płoński i żuromiński. Do najcenniejszych archiwaliów należą XIX-wieczne akta administracji powiatowej zaborczej w Mławie i Płońsku zawierające pełen obraz życia społeczno-politycznego i ekonomicznego ówczesnych lat. Mławskie akta opiewają statut Mławy związany z jej strategicznym położeniem nadgranicznym. W archiwum znajdują się: akta sądowe pokazujące proces sądownictwa i kształtowanie się stosunków kapitalistycznych w gospodarce w XIX i XX wieku; akta metrykalne i stanu cywilnego kilku wyznań z lat 1808-1938 (księgi parafii Krasne i Opinogóra zawierają metryki rodu Krasińskich, w tym akt małżeństwa Zygmunta Krasińskiego z Elżbietą z Branickich); dokumenty na temat dziejów przemysłu północnego Mazowsza znajdujące się m.in. w aktach cukrowni w Ciechanowie i Glinojecku oraz browaru ciechanowskiego; materiały geodezyjno-kartograficzne w postaci planów, map, operatów technicznych i zdjęć lotniczych; zbiory fotografii, które występują w kronikach i księgach pamiątkowych, w spuściznach oraz zespołach aktowych instytucji kultury i organizacji społeczno-kulturalnych.
Rocznie mławskie archiwum odwiedza ok. dwóch tysięcy interesantów. Archiwum prowadzi działalność edukacyjną. Organizowane są wystawy, lekcje archiwalne i warsztaty genealogiczne, na których poruszane są tematy związane z historią miasta i regionu z wykorzystaniem eksponatów archiwalnych. Owocna jest także współpraca z Muzeum Ziemi Zawkrzeńskiej. Wspólnie zorganizowano m.in. ekspozycję zatytułowaną „Mława w dawnym dokumencie” oraz wystawę plenerową przedstawiającą historię zabytkowego Parku Miejskiego w Mławie.
W 1994 roku budynek mławskiego archiwum został wpisany do rejestru zabytków.