В 1792 году Ацвежскому приходу была выдана храмозданная грамота на возведение каменной церкви в честь 3-х святителей (к сожалению, не указано каких). В 1819 году в одну связку с каменной церковью пристроена каменная колокольня. В 1799 году в Ацвежском приходе были заведены метрические книги, в которые записывались данные о прихожанах: дата рождения, имена родителей, имена восприемников при крещении, венчание, отпевание. Практически всё население фиксировалось в церковных книгах.
В 1841 году в с. Ацвеж началось новое строительство. Две каменные церкви и колокольня были перестроены в один комплекс Казанско-Богородицкой церкви , которую спроектировал известный архитектор А.Л. Витберг (1787-1855), сосланный в то время в Вятку. Кстати, он был автором проекта московского храма Христа Спасителя, Александро-Невского собора г. Вятки. Витберг уехал из Вятки в 1851 году, следовательно, он мог в течение 10 лет наблюдать за строительством Ацвежского храма, которое длилось до 1877 года.
Казанско-Богородицкая церковь имела форму креста, возносились к небу 5 куполов. Колокольня имела 4 яруса, каменная, все строение крыто железом, окрашено белилами на льняном масле. Вокруг церкви установлена каменная ограда. Церковь имела 5 престолов: 1-й и главный - в честь Казанской иконы Божией Матери; 2-й - в честь Иверской иконы Божией Матери; 3-й - в честь прп. Серафима и вмч. Параскевы; 4-й - в честь свт. Димитрия Ростовского; 5-й - в честь Митрофания Ростовского.
При церкви работала библиотека и читальня для прихожан. В библиотеке насчитывалось 700 томов. В церкви хранились раритетные рукописные книги, цены которым нет. В церкви было много икон, богослужебных сосудов, облачений и другой утвари. Богослужения совершались часто, собиралось много прихожан со всех окрестных деревень и починков. В приходе имелись три часовни: на кладбище, в Несветаевых, в Шмелёве.
В Ацвеже была одна церковно-приходская и три земских. Число учащихся от общего числа детей было не более 5-6%. Мало было мест в учебных классах, да и желающих учиться было немного.
В 1834-1840 гг. служил и посещал свой храм после паломничеств и послушаний о. Симеон Веснин, затем он стал иеромонахом Серафимом, и, наконец, на Святой горе Афон принял схиму с именем Сергий. Он известен как духовный писатель Святогорец.