Centrum Siedlec stanowi zespół budynków powstałych w XVIII wieku w czasie władania miastem przez Aleksandrę Ogińską. To z jej inicjatywy wzniesiono jeden z najładniejszych obiektów miasta. Jest nim plebania stojąca obok kościoła św. Stanisława Biskupa swym wyglądem przypominająca pałacyk.
Budynek został zbudowany według projektu Jana Zygmunta Deybla w latach 1768-1774 na zlecenie księżnej Aleksandry, która zamieszkiwała pałacyk w czasie przebudowy głównej rezydencji. Obiekt liczący dwie kondygnacje otrzymał późnobarokową formę. Wyróżnia się symetryczną fasadą z centralnym ryzalitem z wejściem głównym nakrytym trójkątnym naczółkiem.
W latach późniejszych obiekt poddawano rozbudowom. Przez pewien czas mieściła się tutaj siedziba Trybunału Księstwa Warszawskiego. Później stała się siedzibą proboszcza parafii św. Stanisława i jest nią do dziś. Plebania przy ulicy Floriańskiej 3 jest zabytkiem chronionym prawem decyzją konserwatora nr 420/62 z dnia 22.03.1962 r. i nosi indentyfikator NID 624126.