Монастырь расположен у источника, носящего имя святой Параскевы Римской. У местных жителей издавна существовало верование, что именно в этих местах преподобномученица Параскева Римская претерпела свои последние страдания и приняла мученический венец, а целебный источник забил на месте ее казни. Около источника в середине XIX века поселилась болгарская девушка Константина из села Кишлав (ныне с. Курское Белогорского района). Отшельница выкопала себе землянку у источника св. преподобномученицы Параскевы и долго жила здесь одна, а соседи-болгары приносили ей скудное пропитание. Впоследствии к ней присоединились несколько женщин и здесь в 1858 году основалась как бы киновия – прообраз будущей обители. Над источником была выстроена маленькая часовенка, где эти женщины читали по усопших псалтирь, за что им приносили скромные продукты. В 1864 году по ходатайству епископа Таврического Алексия киновия была преобразована в общежительный монастырь.

Считается, что вода из источника св. Параскевы излечивает болезни глаз и головы. Также святой Параскеве Римской молятся женщины, желающие иметь детей. На этом источнике по преданию была обретена икона святой Параскевы Римской греческого письма. На иконе святая изображена стоящей в полный рост с чашей в руках, а в чаше – исцеленные глаза. По преданию, эта икона спасла город Мариуполь от холеры. Местонахождение этой иконы сейчас не известно. В настоящее время над источником была воссоздана небольшая часовенка, территория благоустроена. Рядом с источником построена закрытая купальня, в купель которой с гор стекаются воды с еще двух целебных источников Св. Георгия Победоносца и Трех Святителей Великих. Огромный беломраморный Ангел из кувшина льет воду в купальню.