Старая Воздвиженская церковь существовала с 1759 года. В 1797 рядом со старым храмом закладывается строительство новой Крестовоздвиженской церкви. Крупный кирпичный однокупольный храм в стиле классицизма с боковыми приделами, небольшой трапезной и колокольней. В 1809—1810 годах освящаются приделы в честь Святого пророка Ильи и евангелиста Иоанна Богослова. В 1837 году разбирается на стройматериалы старая церковь, которые идут на строительство трапезной и колокольни. В том же году освящается главный алтарь храма. Закрыта в 1929, взорвана в 1933. Сейчас на месте бывшей Воздвиженской площади и когда-то стоявшего на ней храма по-прежнему находится закрытый с 1990-х годов кинотеатр Родина и часть сквера, названного именем орловского земляка авиаконструктора Поликарпова. Часть бывшей Воздвиженской площади ныне именуется площадью Поликарпова.