О строительстве первого храма в честь Архангела Михаила в Бабаях Харьковской области упоминается еще в 1650 году. Уже в 1782 году по благословению Епископа Агея и стараниями харьковского губернского прокурора Андреева строят каменный храм в честь святого. Андреев был сыном Щербинина и здесь, в Бабаях, было его родовое поместье. Церковь строится по проекту харьковского губернского архитектора Петра Ярославского. Считается, что сама церковь была почти точной копией храма святой Анны в Петербурге. Некоторые историки и эксперты в архитектуре увидели схожесть деталей церкви с деталями фасадов дворца Шидловских в Мерчике. Именно поэтому дворец Шидловских также приписывают авторству Петра Ярославского.

К сожалению, первоначального здания храма не сохранилось, он был полностью разрушен. Уже в 2002 году была образована новая община Архангела Михаила. При поддержке Метрополита Харьковского Никодима и Архиепископа Изюмского Онуфрия был заложен новый храм в 2004 году. В новом храме с 2009 года начали проводить богослужения. За основу проекта нового храма использовали сохранившиеся описания и рисунки предыдущего. Как и первоначально, возле храма построили двухэтажную воскресную школу.