За века существования у этого храма было много названий: Зачатия праведной Анны на Востром конце, что у городовой стены в Углу, что в Китай-городе на берегу, что за Соляным рядом.
Церковь Зачатия Праведной Анны, что в Углу – одна из древнейших в Москве. Первое упоминание о ней относится к 1493 году. Но тогда, во время правления Ивана III Васильевича она, по всей видимости, была деревянная.
Церковь Зачатия Анны на Востром конце была построена сразу после панических настроений, связанных с ожиданием конца света. По христианскому летосчислению в 1492 году наступала седьмая тысяча лет от библейского Сотворения мира (5508 лет до рождества Христова плюс 1492 года после Рождества Христова равно 7000 лет). В православных пасхалиях исчисление празднования Пасхи, Воскресения Христова, доводилось только до 1491 года, а применительно к роковому 1492 году делались приписки: «горе, горе достигшим до конца веков». Светопреставления ждали со страхом и трепетом, оно казалось неотвратимым, была даже объявлена точная дата – в ночь на 25 марта 1492 года. В этой обстановке полной обреченности и безнадежности по указу Ивана III Васильевича и возводится церковь Зачатия Праведной Анны в конце главной Великой улицы древнего посада. В 1493 году, когда церковь впервые упоминается в документах, Иван III Васильевич принимает титул «Государя всея Руси».
В начале XVI века был сооружён белокаменный на подклете храм. Но он пострадал от страшного пожара 1547 года. В тот год в Успенском соборе Кремля шапкой Мономаха, бармами и крестом венчался на царство Иван IV Васильевич. Вслед за этим уже царь Иван Васильевич повенчался с Анастасией Романовной Захарьиной-Юрьевой. И вот затем, жарким июньским днём, через несколько дней после того как с колокольни Благовещенского собора упал большой колокол, вспыхнула церковь на Арбате. Через час горела уже вся Неглинка. Затем ветер подул в сторону Кремля. Загорелись кровли кремлевских соборов. В пожаре погибла казна, Оружейная палата, царская конюшня. Сгорел Благовещенский собор, фрески которого писал Андрей Рублев. Взрывы запаса пороха разрушили часть кремлевских стен и башен. Сгорело 25 тысяч дворов. В огне погибло около двух тысяч жителей. Не успела Москва оправиться от последствий пожара, как прошёл такой сильный град, что летописец счёл необходимым отметить его в летописи. Град был «силен и велик, с яблоко лесное», причём градины были разной формы: «ово кругло, ово грановито». После всех этих стихийных бедствий Иван IV Васильевич приказал начать отстраивать город заново и в том числе обновить церковь Зачатия Праведной Анны. К этому времени, после постройки укреплений Китай-города, по указу матери Ивана Васильевича Елены Глинской церковь уже получила привычное ныне название – «что в Углу», так как она оказалась между восточной и южной стенами. Это местоположение и отразилось в её названии.
Архитектора каменной церкви историки точно установить не могут. Принято считать, что пропорции объёмов и характер профилей напоминают некоторые постройки Алевиза Нового. Древнее ядро храма – кубический объём с полукруглой апсидой на сводчатом, несколько заглублённом в землю подклете. Бесстолпный четверик перекрыт крестчатым сводом и увенчан стройным барабаном с полуциркульными кокошниками в основании и изящной аркатурой. Окна первоначально глухого барабана прорублены позднее. Подклет главного храма и его стены до основания свода – белокаменные, верх церкви сложен из маломерного кирпича. Фасады, сохранившие с трёх сторон перспективные порталы, расчленены лопатками и завершены трёхлопастными закомарами. Плоскости стен оживлены рамочными наличниками и широкими килевидными перспективными порталами в центре каждой из трёх стен. Стены по верху опоясывает пояс-бегунец. Два сходных по композиции одноглавых придела с прямоугольными апсидами и двухъярусная аркада-галерея с запада, пристроенные в XVII веке, образуют компактный, пластичный силуэт. Южный придел святого великомученика Мины построен на средства князя Дмитрия Михайловича Пожарского в 1617 году. Небольшой, кирпичный, с прямоугольной в плане апсидой придел перекрыт крестчатым сводом. В архитектурном наследии Москвы – это один из последних по времени сводов подобного типа. Над четырёхскатной кровлей возвышается глава на глухом барабане. Есть версия, что придел существовал ещё в деревянной церкви и был основан в память освобождения Руси от золотоордынского ига – 11 ноября 1480 года, в день святого Мины, монголо-татары снялись и ушли от реки Угры. А Пожарский, по сути, восстановил придел в камне.
С именем князя Пожарского связана история с уникальным колоколом храма. Колокол был отлит в 1547 году во Франции, а в 1610 году был куплен и пожертвован в храм московским купцом Иваном Григорьевичем Твердиковым. Тогда же на колоколе была выгравирована первая надпись: «Дал сий колокол в дом Пречистые Богородицы честнаго и славнаго Ея Зачатия, что в Китае городе, Иван Григорьев сын Твердиков по своих родителех…». В период польско-литовской оккупации Москвы колокол был украден «русскими ворами». В 1617 году, узнав, что продаётся колокол, похищенный из церкви, Дмитрий Михайлович его выкупил и вернул Зачатьевскому храму. Тогда на колоколе появилась вторая надпись. Опять-таки с просьбой поминать родителей.