На первом пересечении Ямской улицы поперечным переулком виднеется с правой стороны церковь св. Алексея митрополита, а за нею стена ограды Крестовского монастыря. Сведения о церкви Алексея митрополита восходят к началу XVII в. Тогда она была не здесь. По описи 1626 г., она стояла в крепости, именно, значится: “храм древян, клетцки (построен клетью), в городе”. В описи 1685 г. она уже показана с приделом м. Филиппа. В один из пожаров, вероятно, она сгорела, и новая, по клировым ведомостям, значится построенной в 1730 г. (по др. данным в 1733 г.). Каменная церковь, построенная на месте деревянной, закончена в 1740 г. Когда же Калугу стали планировать по “Высочайше апробованному плану”, церковь в 1785 г. была на прежнем месте разобрана и перенесена на настоящее место, в бывшую тогда Ямскую слободу, на счет купца А.М. Масленникова.
По внешнему своему виду церковь выделяется из среды других церквей простотой архитектуры и высоким шатровым покрытием, которое увенчано одной главой. Колокольня в “италианском стиле”. В храме три престола: 1) главный, во имя всех святых, 2) придел Алексеевский и 3) Кирика и Иулиты. В храме икона Кирика и Иулиты XVII в., чтится прихожанами. Об иконе Казанской Божией Матери существует предание, что одна болящая во время постройки церкви имела видение, будто она обрела эту икону в щепках на трапезе и получила исцеление.
Источник: Книга Малинина Д.И. (часть 1), http://emsu.ru/um/excurs/kaluga/malinin2/1.htm