Очень уважаемый в городе Новозыбкове человек, художник Дориан Тихонович Сулоев (1930-2009), хорошо знавший сына купца А.И.Шведова - И.А. Шведова, описал часовню, которую восстановили по личной инициативе Ивана Нестерова, бывшего в то время мэром Новозыбкова, и решению Администрации города в 2003 г.:
«Часовенка, что была возле храма, осталась цела, исчезла лишь облицовка, пропало кое-что из рельефа. Она была выложена очень хорошо, в полкамня, все швы проработаны графитом. Рядом с одноглавой часовней лежал мрамор, чуть поодаль - могилы. Я видел открытку 1905 года с изображением часовни: создавала особое впечатление красивая ограда, вход из чугунного литья - настоящая кузнечная работа. Такую сейчас не встретишь в современных строениях».
В апреле 2003 года начались работы по восстановлению кирпичной часовни на территории Вонифатьевской церкви. По информации, полученной у главного архитектора города М.Е. Комаровой, стало известно, что кровля воссоздавалась по фото, которое хранится в архиве краеведческого музея. Кстати, в ходе работы реставраторы обнаружили подземный ход, о существовании которого и раньше ходили слухи. Он связывал часовню со Шведовским домом. По всей видимости, купеческая семья использовала этот переход в ночное время, если была духовная необходимость в молитве.
Автор: С. Ложковая «Вонифатьевская церковь. Жемчужина, которую мы потеряли». Опубликовано в газете «Маяк» (Новозыбков) от 17.07.2003.
Спорили, что это строение вовсе не часовня, а бывшая водокачка («энтузиадский колодец»). Так или иначе, оно освящено. Приписана часовня к Чудо-Михайловскому храму. Периодически в ней служат молебны, включая 1 января, в день памяти святого мученика Вонифатия. Здесь можно заказать требы, помолиться за близких, помянуть усопших. Почтить память всех тех, кто заложил эту церковь и её обустроил.
Александр Дудников «Вонифатьевский храм Новозыбкова и его создатели»
