Pierwszy szpital dla ludności pochodzenia żydowskiego w Warszawie powstał w latach 20. XIX w. w dwupiętrowym Pałacu Franciszka Kandyda Ossolińskiego przy ul. Zielonej wzniesionym w latach 70. XVIII. W związku z budową Cytadeli pałac został rozebrany, zaś szpital przeniesiony (w 1833 r.) do kamienicy u zbiegu Pokornej i Inflanckiej.
Był to budynek podpiwniczony z dwoma skrzydłami. Nowa siedziba szpitala była jednak zbyt mała. W latach 1835-38 powiększono ją, dodając nową część od strony północnej. Był to dwupiętrowy blok o wysokim parterze. Pięcioosiowa fasada na dole pokryta była boniowaniem płytowym. Otwór drzwiowy i okna zostały zamknięte półokrągło, a ich profilowane oprawy przyjęły formę ostrego łuku. W partiach wyższych elewacja frontowa miała wygląd klasycystyczny: zwieńczona była belkowaniem z silnie występującym gzymsem wspartym na kroksztynach.
Twórcą budowli był Henryk Marconi (w Archiwum Głównym Akt Dawnych w Warszawie przechowywany jest do dziś projekt Szpitala Starozakonnych autorstwa Marconiego).