Pierwsza świątynia, która znajdowała się w tym miejscu była drewniana. Powstała w połowie XIII wieku z fundacji księcia Kujaw Kazimierza Kondratowicza. Niestety nie przetrwała zbyt długo, gdyż została zniszczona w trakcie najazdu księcia pomorskiego Świętopełka w 1259 roku. Kolejny kościół wzniesiono również z drewna. Przetrwał on niecałe 200 lat.
W 1430 roku na miasto najechali Krzyżacy niszcząc je doszczętnie. Nie oszczędzili oni także kościoła. Rok później świątynia została wzniesiona od podstaw. Powstała trzynawowa fara z cegły w stylu późnogotyckim. Z kilku przekazów wiadomo, że wnętrze było niezwykle bogate. W środku znajdował się ołtarz główny Świętej Trójcy z zasłoną Świętego Mikołaja oraz obrazem Wniebowzięcia Najświętszej Marii Panny, pięć ołtarzy bocznych: Świętej Anny, Świętego Krzyża z zasłoną Świętej Zofii, Zwiastowania Najświętszej Marii Panny, ścięcia Świętego Jana Chrzciciela oraz ołtarz Świętego Norberta z zasłoną Świętego Walentego.
Niestety w czasie okupacji szwedzkiej w połowie XVII wieku po raz kolejny doszło do znacznego zniszczenia świątyni (zawaliła się część dachu i ścian). Po roku 1760 przeprowadzono gruntowną restaurację. Nadano wówczas kościołowi znamiona stylu barokowego, wprowadzono nowe filary, obniżono ściany naw bocznych, mury wzmocniono gotyckimi szkarpami. Jedynie zakrystia zachowała swój dawny styl gotycki ze sklepieniem gwiaździsto-krzyżowym.
Niestety odbudowę przerwano po I rozbiorze Polski. Prusacy podjęli decyzję o utworzeniu w tym miejscu składnicy soli, a później magazynu żywności. Dopiero po 1820 roku, po kolejnej gruntownej restauracji budynek odzyskał swoją dawną funkcję. Świątynia była sukcesywnie remontowana niemal przez cały wiek XIX. Odmalowano wnętrze, zmieniono okna gotyckie na barokowe, zainstalowano nowe organy, do frontonu dobudowano trzy zębate szczyty. Ostatnie prace przeprowadzono w 1928 roku utrzymując wnętrze w stylu barokowym.
W kościele Świętego Mikołaja na przestrzeni wielowiekowej historii miało miejsce wiele ważnych wydarzeń historycznych. 10 lutego 1321 roku gnieźnieński arcybiskup Janisław wobec licznych delegatów z Polski i z Zakonu Krzyżackiego ogłosił wyrok papieża Jana XXII skazujący Zakon na zwrot Polsce zagrabionego Pomorza Gdańskiego oraz zapłacenie wysokiego odszkodowania (tzw. Sąd nad Krzyżakami). Kolejne ważne wydarzenie miało miejsce w 1397 roku, kiedy to doszło do spotkania królowej Jadwigi z Wielkim Mistrzem krzyżackim Konradem von Jungingenem w sprawie pokojowego rozwiązania sporu. 22 maja 1775 roku natomiast hołd wierności królowi pruskiemu Fryderykowi II złożyło w świątyni społeczeństwo Inowrocławia i Kujaw.
Historyczną ciekawostką jest także fakt, że od 18 lipca 1941 roku do zakończenia II wojny światowej, pod posadzką w zakrystii, ukrywane były relikwie Św. Wojciecha. Przewiózł je z Gniezna Urban Thelen, podoficer Wehrmachtu. Świątynia mimo licznych rekonstrukcji i przeobrażeń na przestrzeni wieków nadal budzi zainteresowanie i jest cennym zabytkiem. Bogate wnętrze przesiąknięte burzliwą historią z pewnością zafascynowałoby wielu miłośników historii i sztuki sakralnej.