Na obecnym terytorium Polski znajdowało się kiedyś około tysiąca cmentarzy żydowskich (kirkutów). Kirkut w rozgałęzieniu dzisiejszych ulic bpa Jacka Odrowąża i św. Wincentego jest jednym z dwóch zachowanych w Warszawie.
Założył go w 1780 r. na części gruntów Golędzinowa - wcześniejszej jurydyki królewskiej Stanisława Augusta Poniatowskiego - Żyd Samuel Sonnenberg, znany bardziej jako Szmul Jakubowicz Zbytkower, protegowany króla i jego nadworny bankier. Biskup płocki Michał Poniatowski, brat króla, zezwolił na chowanie tu zmarłych pod warunkiem, że Żydzi co rok na dzień św. Jana dostarczą kontyngent łoju dla kościoła parafialnego w Skaryszewie.
Kiedy 4 listopada 1794 r. armia Suworowa nacierała na Pragę, w jej obronie stanął także lekkokonny pułk żydowski dowodzony przez Berka Joselewicza, późniejszego dowódcę polskich oddziałów w bitwach napoleońskich, kawalera orderu Virtuti Militari. Wielu jego żołnierzy zginęło na szańcach wzniesionych na terenie cmentarza. Szmul Zbytkower ogłosił podobno, że za każdego odnalezionego poległego da srebrnego rubla, a za przyniesienie rannego - złotego dukata, nie czyniąc różnicy między żydem a chrześcijaninem.
Na cmentarzu w 1802 r. został pochowany sam Zbytkower, członkowie rodzin Nissenbaumów, Bergsonów i Sonnenbergów, a także znakomity uczony i konstruktor Abraham Stern (1768-1842), twórca mechanicznych maszyn liczących, członek Towarzystwa Przyjaciół Nauk, dziadek poety Antoniego Słonimskiego.
Ostatnich zmarłych pogrzebano tu w 1941 r. Podczas okupacji niemieckiej cmentarz wraz z ogrodzeniem systematycznie niszczono. Częścią płyt nagrobnych (macew) wybrukowano ulice, ich fragmenty odnaleziono później w krawężnikach w ogrodzie zoologicznym i w pergoli parku przy Grochowskiej. Po wojnie, w latach 1946-1947, ocalałe nagrobki złożono na wzniesieniu w środkowej części cmentarza. Miejsce przypomina niemal skalne gołoborze. Tablice ułożone jedna obok drugiej, z nazwiskami zmarłych zapisanymi pismem hebrajskim, rosyjskim lub polskim, robią olbrzymie wrażenie. Teren kirkutu stanowił tło kilku filmów wojennych, m.in. obrazu Europa, Europa Agnieszki Holland.
W latach 80. i 90. ubiegłego wieku cmentarz został ogrodzony i uporządkowany przez Fundację Rodziny Nissenbaumów. Od strony ul. św. Wincentego wzniesiono dekorowaną płaskorzeźbami główną bramę wjazdową. W głębi cmentarza ustawiono Pomnik Ofiar Holocaustu (obecnie bardzo zaniedbany). Brama główna cmentarza jest niestety zwykle zamknięta. Na teren kirkutu można wejść bez przeszkód od ul. Rzeszowskiej i od ul. Odrowąża, przez furty sąsiadujące z ogrodzeniem cmentarza Bródnowskiego.