Kościół Narodzenia NMP, mieści się przy al. Solidarności 80. został wybudowany w latach 1683-1732, dla zakonu karmelitów. Jest to kościół jednonawowy, barokowy z trójkondygnacyjną fasadą. Kościół został poświęcony 27 kwietnia 1732 roku przez legata papieskiego w Polsce - Camillo Paolucciego.
Posiada cztery ołtarze boczne poświęcone świętemu: Józefowi, Wojciechowi, Eliaszowi i Magdalenie de' Pazzi. Obrazy do tych ołtarzy namalował Szymon Czechowicz. W kościele, w ołtarzu głównym wisi kopia obrazu Matki Boskiej Białynickiej z Białynicz. Od zachodu stały budynki klasztoru. Po upadku powstania styczniowego w 1864 roku, zakonników wysiedlono, a w budynkach klasztornych zostało utworzone więzienie. Więziony tu był min. Walerian Łukasiński.