Jest to ulica biegnąca od ulicy Podwale do Długiej. Wytyczona została pod koniec XVII w. Przez długi czas zwana była Wąską, gdyż mierzyła nieco ponad 5 m szerokości. Na przełomie XIX i XX w. określana była jako Raczyńska od nazwiska Kazimierza Raczyńskiego, marszałka nadwornego koronnego, właściciela pałacu zajmującego jej wschodnią stronę. Obecne miano uzyskała w 1919 r. Chciano w ten sposób uczcić pamięć Jana Kilińskiego.
Po zachodniej stronie ulicy istniał w XVIII w. dwór murowany należący do Waleriana Kicińskiego, sekretarza i łożniczego królewskiego. W dobie stanisławowskiej mieściła się w nim traktiernia (zajazd), a zamieszkiwał go także znakomity poeta Stanisław Trembecki. W 1854 r. ulica została wybrukowana. Poszerzono ją w latach 1866-67 i powtórnie w 1901-03. Od 1881 do 1907 r. przebiegała tędy z ulicy Podwale na Długą linia tramwaju konnego.
W czasie okupacji Niemcy rozstrzelali tu 50 osób wziętych z łapanki. W okresie powstania warszawskiego, 13 sierpnia, doprowadzono na ulicy Kilińskiego zdobyty przez powstańców przy Placu Zamkowym niemiecki czołg-pułapkę, który eksplodując, zabił i zranił kilkaset osób. Zburzone gmachy po zachodniej stronie ulicy (m.in. kilka „kamienic rentowych” z początku XX w. wzniesionych przez „hrabiów Raczyńskich”) po wojnie nie zostały odbudowane. W latach 1968-69 wzniesiono na ich miejscu budynek szkoły i bloki mieszkalne.