Katedra świętych Piotra i Pawła, zbudowana z cegły na początku XV wieku. Potem była wielokrotnie modernizowana. Do dzisiaj zachowało się w niej wiele stylów, elementów poszczególnych modernizacji. W trójnawowym wnętrzu mieszają się renesans z barokiem.
Znajdują się tu dzieła malarza Michała Andriollego (1836–1893). Warto wiedzieć, że ten artysta był także rysownikiem oraz ilustratorem dzieł Mickiewicza. Szczególnie piękny jest w katedrze piętrowy ołtarz główny z 1755 roku, a także dziewięć ołtarzy bocznych. Drewniany ołtarzyk stojący w nawie lewej, jest najbardziej bogaty spośród wszystkich innych.
Na rogu zachodniego frontonu stoi masywna, 55-metrowa wieża dzwonnicza. Kościół śś. Piotra i Pawła w 1895 roku mianowano kościołem katedralnym, a w 1921 r. podniesiono go do godności bazyliki. W kościele znajduje się grób Macieja Wołonczewskiego (Motiejus Valančius), biskupa żmudzkiego, jednego z dziewiętnastowiecznych liderów litewskiego ruchu narodowego.
Tu też został pochowany jeden z najwybitniejszych poetów litewskich Maironis (prawdziwe nazwisko Jonas Mačiulis). Maironis pochodził z chlopskiej rodziny, ale jako uzdolniony mlodzieniec trafił do Gimnazjum Kowieńskiego. W Kownie też ukończył seminarium duchowne. Studiowal też w Kijowie i Petersburgu. Pisac wiersze zaczął w języku polskim, lecz później stał sie jednym z największych litewskich pisarzy. Jego podobizna zdobi miedzy innymi 20-litowe banknoty. Katedrę w Kownie w 1993 r. odwiedził Jan Paweł II. Polski papież odprawił tu mszę św. podczas swojej pielgrzymki po Litwie. Kowieńska bazylika stoi przy Vilniaus gatve 26.