Часовня в честь местночтимого святого праведного Кирилла Вельского была возведена в 1907-1909 годах в городском парке. Она считалась "неуставной", поскольку была построени на средства горожан без официального благословления. Эта часовня была снесена в 1936 году. В 2000 году археолог А. Едовин обнаружил при раскопках её фундамент, и на его месте был установлен памятный крест.
Современная часовня Кирилла Вельского построена в 25-30 м западнее места прежней часовни.