Plany i początki budowy Cmentarza Centralnego sięgają roku 1920 - właśnie ta data widnieje na bramie wejściowej na jego teren. Pierwsze pochówki odbyły się w marcu 1924 roku. Budowa nowego cmentarza podyktowana była szybkim rozwojem Gliwic w początkach XIX wieku spowodowanym tzw. rewolucją przemysłową, potem budową Kanału Kłodnickiego w pierwszych latach XIX wieku, później zaś stworzeniem linii kolejowej do ówczesnej granicy Królestwa Pruskiego w Mysłowicach, co miało wpływ na to, że w latach 1810-1918 liczba ludności wzrosła dwudziestodwukrotnie i w 1918 roku wynosiła 69 028 osób. Zatem można stwierdzić, że pod koniec XVIII, a zaraz na początku XIX wieku Gliwice miały blisko 3200 mieszkańców, mimo że były wtedy dość dużym miastem w tych okolicach.
Cmentarz został zaprojektowany jako nowoczesna nekropolia będąca własnością ówczesnych władz miasta, a więc nie był to cmentarz wielowyznaniowy. Z dala od centrum miasta, na jego obrzeżach, pełnić miał funkcję jeszcze jednej enklawy zieleni miejskiej. Na początku obszar nekropolii wynosił 19,47 ha, potem zwiększono jego powierzchnię do 22 ha. Zbudowano go na planie prostokąta, ponieważ zakładano w pobliżu budowę autostrady (prawdopodobnie chodzi o dzisiejszą DK 88 i międzynarodową E40, czyli tzw. starą autostradę) mającej na celu połączenie górnośląskich miast po stronie niemieckiej (Gliwice - Zabrze - Bytom i chyba założenie stworzenia tzw. trójmiasta, ale to już inna historia).
Wejściem na cmentarz są dwie bramy trójprzelotowe, zakończone tympanonami. Na zwieńczeniu bram głównych znajdują się napisy łacińskie: „Media vita in morte sumus MDCCCCXX, vivendum ut recte moriamur moriendum ut recte vivamus". Chyba najważniejszym „elementem” przestrzennym nekropolii jest centralnie usytuowana szeroka aleja. Mniej więcej w 1/3 jej długości znajduje się plac z kaplicą cmentarną, od którego odchodzą pozostałe przestronne aleje.
Drugim ważnym „elementem” przestrzennym cmentarza jest zieleń, która „rzuca się w oczy”, nawet gdy późną jesienią nie ma już liści na okolicznych drzewach, z wyjątkiem gatunków tui i (chyba) rododendronu, który przez cały rok jest zielony - można go dojrzeć za elewacją tylną kaplicy; okala krzyż cmentarny - grupę „Opłakiwania” autorstwa rzeźbiarza Paula Ondruscha (jego dziełem jest m.in. rzeźba Chrystusa z 1890 roku w kościele w Głubczycach). Zgodnie z ówczesnymi nowoczesnymi tendencjami, Cmentarz Centralny miał też pełnić funkcję parku - widać, że po latach udało się nadać ją nekropolii za sprawą jej projektantów i budowniczych. Przy alejach posadzono tzw. zieleń wysoką, tj. m.in.: świerk pospolity, sosnę wejmutkę, brzozę brodawkową, lipę drobnolistną, a wzdłuż ścieżek zasadzono krzewy żywotnika i różanecznika.
Chyba rzadko spotykane jest w Polsce tego rodzaju założenie cmentarza o charakterze parkowym z typowymi dla parku elementami, jak np. fontanny, usytuowane w sześciu miejscach, i rzeźby na skrzyżowaniach alejek i na osi centralnej założenia.