Борисоглебская церковь известна по историческим источникам с 1635 года. Она простояла до 1685 года, когда старый однопрестольный храм сгорел во время одного из московских пожаров. Вместо него, в 1691 году, был возведён новый каменный храм с главным престолом, освящённым во имя Нерукотворного Образа Спаса нашего Иисуса Христа. В церковной трапезной были устроены Борисоглебский и Смоленский приделы. В 1799-1802 годы на пожертвования прихожан на этом месте была построена новая однокупольная церковь в стиле классицизма.
При обновлении храма в 1881 году его придел в честь Смоленской иконы Божией Матери был переименован в честь святителей Московских Петра, Алексея, Ионы и Филиппа. Храм снискал себе известность тем, что в нём находилась икона Нерукотворного Спаса, написанная известным иконописцем Симоном Ушаковым. По имени этого храма получил название существующий и поныне Борисоглебский переулок.
В 1933 году церковь во имя святых благоверных князей Бориса и Глеба по постановлению Моссовета была закрыта, а в 1936 году её полностью разрушили.
Позже на её месте, по адресу Поварская, 32 было построено здание Государственного музыкально-педагогического института им. Гнесиных, в 1993 году переименованного в Российскую Академию музыки им. Гнесиных. В 2007 году на месте разрушенной церкви был установлен памятный знак.