В городе находился 21-й Муромский пехотный полк. Первую скромную деревянную церковь полк построил своими силами примерно в 1889 года на улице Ломжинской, ведущей от города к железнодорожному вокзалу. По инициативе командира полка генерала Коссова и протоиерея Жданова в 1901 году приступили к строительству новой церкви. Полк выделил из собственных средств сумму в 7 тыс. рублей, а оставшиеся недостающие 38 тыс. он получил от государственной казны. Площадь под строительство безвозмездно передала городская магистрат. Строительными работами руководил инженер подполковник Витман. Закладка краеугольного камня состоялось 6 мая 1902 года. Торжественное освящение было совершено 7 октября 1904 года.
Это была типичная военная церковь. Купола над алтарем и колокольней были покрыты оцинкованным листом. Двери и окна были железными. Иконостас был сделан из дуба. Иконы, помещенные в иконостас, написал военный рядовой Иванов, который до своего назначения в армию руководил живописной мастерской в Серпухове Московской губернии. К церкви, кроме солдат полка, принадлежал саперный батальон и местные жители. Во время войны оккупационные власти устроили в церкви продовольственный склад.
В межвоенный период церковь была отдана ремесленной школе и переоборудована в спортзал (ныне Профессионального училища № 1 имени Юзефа Псарского).