Józef Longin Ostaszewski urodził się 15 marca 1875 roku w Staninie w powiecie łukowskim. Dyplom lekarski otrzymał na Uniwersytecie Warszawskim. W Mławie osiedlił się w 1907 roku. Zamieszkał w kamienicy na rogu ulic 3 Maja i Żeromskiego. Podjął pracę w Przychodni Kolejowej, później został kierownikiem miejskiego szpitala.
Cieszył się dużym szacunkiem wśród mieszkańców miasta. Ubogim chorym nie tylko udzielał bezpłatnie porady lekarskiej, ale często dawał pieniądze na lekarstwa. Mówiono o nim „Judym na gruncie mławskim”. Po odzyskaniu przez Polskę niepodległości dalej działał aktywnie dla dobra społeczeństwa. Był lekarzem i nauczycielem higieny w Seminarium Nauczycielskim, wykładowcą geologii na „Uniwersytecie Powszechnym”, wykładał w Żydowskiej Szkole Średniej. Działał we władzach Polskiej Macierzy Szkolnej, Polskim Związku Zachodnim, Towarzystwie Dobroczynności, Stowarzyszeniu Młodzieży Akademickiej, Towarzystwie Gimnastycznym "Sokół", Towarzystwie Śpiewaczym „Lutnia”.
Oprócz działalności kulturalnej Józef Ostaszewski prowadził ciekawe życie polityczne. W kampanii wyborczej w 1923 roku członkowie "Lutni" pod jego przywództwem utworzyli wyborczy Komitet i na cztery lata przejęli władzę w mieście, a on sam został wówczas członkiem Rady Miejskiej Mławy.
Muzeum Ziemi Zawkrzeńskiej swoje istnienie zawdzięcza poniekąd osobie Ostaszewskiego. Powstało ono głównie ze zbiorów zgromadzonych przez uczniów seminarium nauczycielskiego pod kierunkiem prof. Borkowskiego i prof. Trznadla . Ostaszewski był także współtwórcą Towarzystwa Przyjaciół miasta Mławy. W wolnych chwilach poświęcał się malarstwu, kilka obrazów jego autorstwa znajduje się w mławskim muzeum m.in. „Portret matki” , „Autoportret” , „Dziadek z Mławy”, „Widok na park mławski”, „Matka z córką w rynku”, „Widok na Mławę ze wzgórza historycznego starostwa”. Gdy Niemcy zaatakowali Mławę Ostaszewski uciekła do swojego syna do Warszawy i tam zmarł, 25 czerwca 1942 roku.
Promocja Mławy była całym jego życiem. Podczas pobytu w Warszawie napisał do swojego przyjaciela list, a w nim takie słowa „ W oderwaniu od Mławy nic nie mam do zrobienia. Praca całego życia przywiązała mnie do tamtych stron i całą duszę włożyłem w podniesienie Mławy. Przybywa do tego złośliwa tragedia starości, która nie pozwala mi rozpoczynać czegoś nowego, a i siły nie pozwalają. Jedyne pragnienie pozostaje złożenie swoich kości na tym terenie, w który włożyło się duszę całą. (…)Nie mogę bez wzruszenia pomyśleć o Mławie i zazdroszczę każdemu wyrobnikowi, co tam pracuje”.
Imię Józefa Ostaszewskiego nosi jedna z mławskich ulic. Jest on również patronem Gimnazjum nr II. Na ścianie kamienicy przy ul. 3 Maja widnieje pamiątkowa tablica z notką „W tym domu w latach 1907-1939 mieszkał i pracował Józef Longin Ostaszewski, lekarz medycyny, pisarz, historyk, twórca ruchu regionalnego Ziemi Mławskiej, prezes Towarzystwa Przyjaciół Mławy”. Tablicę ufundowało w 1988 roku Towarzystwo Przyjaciół Ziemi Mławskiej.