Po uruchomieniu połączenia kolejowego Gostynia z Lesznem i Jarocinem nastąpiło otwarcie miasta na kontakty z całą Wielkopolską. Do Gostynia zaczęli przybywać ludzie zarówno w interesach, jak i w odwiedziny. Wywołało to wzrost zapotrzebowania na usługi dla nich świadczone. Dotyczyło to również bazy noclegowej.
Na przełomie XIX i XX w. powstało w Gostyniu kilka hoteli. Wśród nich wyróżniał się wzniesiony pomiędzy 1880 a 1890 r. Hotel "Czabajski". Inicjatorem jego budowy i właścicielem był Tomasz Czabajski, który prowadził go do pierwszych lat XX w. Przed wybuchem I wojny światowej dzierżawcą hotelu był Władysław Jezierski prowadzący go do 1918 r.
Dawny Hotel "Czabajski" to narożna kamienica u zbiegu dzisiejszych ulic 1 Maja i Wrocławskiej. Piętrowy, neoklasycystyczny budynek posiada dwie fasady frontowe o różnych długościach i ściętym narożniku. Główne wejście znajduje się od ulicy 1 Maja, umieszczono je w jednoosiowym ryzalicie z ozdobnym szczytem. Z ozdobnego narożnika z balkonem wchodziło się dawniej do restauracji.
W budynku hotelu, ujętym w gminnej ewidencji zabytków, od wielu lat mieści się gostyński Bank Spółdzielczy.