W latach 1894-1896, wobec rosnącej liczby Żydów przybywających do Sosnowca i na teren Zagłębia, wybudowana została Wielka Synagoga przy ul. Policyjnej (obecnie ul. Dekerta 16). W 1897 r. w mieście mieszkało już 2 291 Żydów i stanowili oni 6,3% ludności miasta. W 1898 r. w Sosnowcu powstała samodzielna gmina żydowska. Rabinem Sosnowca został wówczas mianowany rabin Abram Majer, a na czele Rady stanęło trzech kupców: Stanisław Rajner, Jakob Najfeld i Adolf Openhajm. W 1900 r. nowym rabinem Sosnowca został rabin Dawid Sztajnzalc , a w 1902 r. sędzią ("dayan") został rabin Icchak Glikman. Od 1906 r. w skład 12-osobowego Dozoru Bożniczego wchodziło 2 chasydów.
W Sosnowcu działali również chasydzcy rabini: Alter Abram Bezalel Natan Neta Biderman, Mordechai Elazar Menachem Biderman, Dawid Pardes, Eliezer Finkler i Pinchas Isschar Finkler. Rabin Szlomo Chanoch Hacohen Rabinowicz był jednym z najbogatszych ludzi w Polsce. Założył i utrzymywał 36 jesziw (szkół religijnych).
W dniu 9 września 1939 r. hitlerowcy wysadzili synagogę, a następnie rozebrali jej ruiny. Obecnie znajduje się tu plac handlowy. Brakuje niestety tablicy informującej o historii tego miejsca.