Nekropolie położone są praktycznie na końcu miasta, przy drodze wylotowej do Dobrego Miasta, na skraju lasu miejskiego. Cmentarz Żołnierzy Niemieckich został poświęcony w marcu 1915 roku, jednak pierwsze pochówki żołnierzy poległych pod Olsztynem odbyły się już w sierpniu 1914 roku. W czasie I wojny światowej pochowano na nim 87 żołnierzy. W okresie międzywojennym chowano tu także osoby cywilne, a w czasie II wojny światowej znowu żołnierzy. Po wojnie cmentarz uległ dewastacji.
Nekropolia ta została odrestaurowana w 1992 roku z inicjatywy przewodniczącego Związku Mniejszości Niemieckiej w Olsztynie. Związek ten może się poszczycić uratowaniem wielu cmentarzy na tym terenie, są to głównie nekropolie z okresu I wojny. Niestety, na większości odrestaurowanych cmentarzy, również i na tym, nie zachował się pierwotny układ nagrobków. W oficjalnej niemieckiej wersji cmentarz nazywa się Ehrenfriendhof (Cmentarz Honorowy), jednakże teren ten na pewno kryje w sobie mogiły ok. 800 żołnierzy.
O wiele mniej szczęścia miał znajdujący się dosłownie po drugiej stronie ulicy Cmentarz Żołnierzy Rosyjskich. Jego pierwotny układ jest niestety nieznany, z tamtego okresu zachował sie tylko granitowy głaz z napisem wykutym w języku niemieckim, mówiący o tym, czyje szczątki kryły te mogiły. Według niektórych danych pochowanych jest tutaj 21 lub 157 rosyjskich żołnierzy poległych w końcu sierpnia 1914 roku. Obecnie teren ten został oczyszczony z krzewów i podrostów drzew, a obok dawnego głazu umieszczono duży prawosławny krzyż.