Kamienica znajduje się w południowej pierzei Placu Narutowicza pod nr 10. Jest to dawna XVIII-wieczna kanonia przebudowana w stylu klasycystycznym w połowie XIX w. Przed jej zajęciem i przeznaczeniem na siedzibę biskupa, w 1872 r., dokonano gruntownej restauracji, umieszczając na frontonie tarczę z insygniami władzy biskupiej: krzyż, infułę i pastorał. Pierwszym biskupem tu rezydującym był biskup sufragan Aleksander Kazimierz Gintoft-Dziewałtowski zastępujący zesłanego na Sybir biskupa płockiego Wincentego Teofila Popiela.
Znajdujący się za budynkiem ogród, który pierwotnie rozciągał się aż do wieży zegarowej, powstał na miejscu dawnej – zasypanej – fosy zamkowej. W 1979 r. budynek restaurowano i znacznie powiększono, dobudowując skrzydło od strony zamku oraz taras, gdzie od kilku lat w czasie Świąt Bożego Narodzenia wystawiana jest tradycyjna szopka z figurami świętych naturalnej wielkości. Na frontonie widnieje tablica pamiątkowa treści: “W tym domu 7-8 czerwca 1991 r. przebywał Ojciec Święty Jan Paweł II podczas IV Pielgrzymki do Ojczyzny”.