В 1701 г. был сооружён деревянный храм. В 1762 г. его разобрали из-за ветхости и построили новую деревянную церковь, названную в честь Вознесения Господня. 7 октября 1855 г. взамен деревянной на средства помещицы Надежды Андреевны Ольшевской возвели каменный однопрестольный храм в честь Успения Пресвятой Богородицы. При храме были построены помещения для причта и церковно-приходская школа. Несколько позднее построили отдельно стоящую колокольню. Авторы проекта церкви и колокольни неизвестны.
После Октябрьской революции 1917 г. колокольню и ограду храма снесли, в начале 1930-х гг. храм вовсе закрыли. Во время оккупации немецко-фашистскими захватчиками (около 1942 г.) храм открыли. После освобождения села 16 августа 1943 г. богослужения продолжались до первой половины 1960 гг. В 1950 гг. стены оштукатурены раствором. В 1963-64 гг. приход ликвидировали и храм закрыли. Помещение храма стало колхозным складом, а затем, когда здание совсем обветшало, его и вовсе забросили.
Решением Харьковского областного совета народных депутатов №904 от 5 июня 1995 г. в Малой Рогозянке возобновлена деятельность Свято-Успенского храма. Реставрационные работы начаты весной 1997 г. 29 апреля 1998 г. воздвигнут крест на куполе храма. 26 октября 1999 г. храм освятил Владыка Никодим.
По материалам официального сайта Харьковской епархии