Wspólnota ewangelicka w Oleśnie nie posiadała własnego kościoła. Pierwszy pastor Leopold Polko nabożeństwa odprawiał raz w miesiącu w kościele katolickim pw. Ciała Chrystusowego. Z uwagi na to, że płacił za ten przywilej dwadzieścia talarów rocznie, postanowił wybudować dla wspólnoty świątynię.
Jednak już na samym początku wystąpił problem ze zgromadzeniem odpowiednich środków finansowych, wszak wspólnota ewangelicka była niewielka. Pastor wpadł więc na niezwykły pomysł. Zamówił w drukarni broszurkę z ogłoszeniem „Proszę o jednego feniga”. Ogłoszenie to trafiło do wspólnot ewangelickich w Prusach. Wkrótce pastor zaczął otrzymywać worki pełne groszy. Brakującą kwotę zebrał sam, podróżując po całych ówczesnych Prusach.
Po zgromadzeniu około trzech milionów fenigów (groszy) w maju 1851 r. przystąpiono do wznoszenia murowanej świątyni. Jej budowa przebiegała bardzo sprawnie i już po dwóch latach została postawiona, a 11 maja 1853 r. nastąpiło uroczyste poświęcenie kościoła pw. Krzyża Chrystusowego. Jednak mieszkańcy nazywają go potocznie ”kościołem fenigowym”, nawiązując tym samym do sposobu zbierania środków na jego budowę.