В 1861 г. было начато строительство Казанской церкви, единственной в городе пятикупольной. Возводилась она на средства купцов и мещан. Улица, на которой стояла эта церковь, стала называться Казанской. В 1864 г. в церкви было открыто богослужение. Первым священником был отец Иоанн Хрипко. При церкви состоял старостою церковным купец, с 1914 г. городской голова Николай Сергеевич Васнев. Деньги на колокола пожертвовал почетный гражданин города Иван Пивоваров. Еще 500 руб. выделила городская Дума. Колокольня была построена в 1910 г. В Казанской церкви было три престола: в честь Казанской Божьей Матери, в честь князя Александра Невского, в честь святого апостола Архипа и Филимона.
На территории храма находилась усадьба площадью 1200 кв. метров, два жилых дома для священнослужителей. При церкви работала церковная библиотека, которая насчитывала 240 томов. При храме действовал церковная школа, в которой обучались около 130 детей.
В феврале 1926 г. верующие перешли под юрисдикцию Украинской синодальной церкви. 4 октября 1935 г. Президиум ВУЦИК закрыл храм. 6 ноября с куполов Казанской церкви были сняты кресты и установлены красные флаги. Церковное здание предполагалось передать Дому обороны, однако в последующие годы собор был снесён. В августе 1942 г. управление благочиннического округа Украинской православной церкви возобновило Казанский приход. В начале сентября 1961 г. община была снята с регистрации как «прекратившая свою деятельность», здание было снесено.
Долгое время на территории разрушенного храма был пустырь. После взрыва храма фундамент остался.