В 1873-ем году, на средства, выделенные Синодом, по проекту инженера-архитектора Баумана было построено здание церкви из бута и кирпича с пятью главами. В 1873-ем году император Александр II преподнёс в дар церкви два больших колокола. Иконостас был подарен одним петербургским купцом. В приходе Ильярве в 1875-1874-ом годах служили русские священники, закончившие Псковскую духовную семинарию, в 1874-го года – священники из Рижской духовной семинарии, с 1918-го по 1936 годы священником церкви был эстоней Александр Эллер. В 1925-ом году в церкви был проведён ремонт внутренних помещений, а также реставрация иконостаса. В ходе боевых действий в 1944-ом году пострадала крыша церкви, часть башен и внутреннее убранство. Иоанн Вярк, ставший приходским священником в 1937-ом году, в 1949-ом был репрессирован и церковь осталась без батюшки. В советское время церковь неоднократно подвергалась разорению, церковное имущество разграблено. В 1979-ом году была украдена серебряная утварь, используемая при проведении таинства причастия, а также десятки икон. В 2006-ом году на средства, полученные в рамках государственной программы поддержки храмов, была отремонтирована крыша церкви.