Gorzyce leżą nieopodal Sandomierza, w pobliżu miejsca, gdzie Łęg oddaje swoje wody Wiśle. To bardzo stara miejscowość i pierwotnie jej centrum stanowiła tzw. Górka Plebańska. To niewielkie wzniesienie znajduje się na terenach od stuleci nawiedzanych przez wylewy Wisły i jej dopływów, Łęgu i Trześniówki. Woda jednak nigdy nie dotarła na Górkę Plebańską.
Od bardzo dawna stał tu kościół i plebania. Jednak w 1793 roku Gorzyce nawiedził pożar, który strawił nie tylko zagrody mieszkańców, ale także kościół i zabudowania parafialne wraz z całym archiwum.
Parafia była bogata z uwagi na prawo pobierania opłat za przeprawę przez Wisłę szlakiem handlowym z Sandomierza do Przemyśla i dalej na Ruś oraz do Azji. Odbudowano jednak tylko plebanię, która jako prywatny obiekt istnieje do dziś. Wieś przeniosła się bardziej na południe od pierwotnego miejsca.
Na Górce Plebańskiej, która z czasem przyjęła nazwę „Pączek", pozostała plebania. Jest to budynek utrzymany w stylu klasycystycznym, zbudowany na planie prostokąta i nakryty gontem. Od lat mieści się w nim pensjonat, a o jego walorach świadczy fakt, że częstym gościem bywał tu prof. Wiktor Zinn.