На падините на ридот Олмец се наоѓа манастирот „Света Петка“. На средната страна од надворешниот дел на петтостраната апида е забележан следниот запис: „Света Петка. Изградена по повелба на цар султан Абдул Хамид.Помош на народот во времето на игуменот Наум Илиев. Во лето 1890 22мај“.
Света Петка е едноброда базилика со две куполи.Иконостасот е нов, но има икони што се регистрирани како споменици на културата при Републицкиот завод за застита на спомениците ,меѓу кои е Богородица со Христа. Има киват од 1833 год. Под сегашната црква има остатоци од малтер на пештерска црква.
Црквата е проширена во 1922 год.за време на свештеникот од с.Велгошти Алексо Шокароски. Името на монахинјата Параскева ,односно Петка,на Балканот се појавило на кралот на Х и поцетокот на ХI век. Св.Петка (Параскева) е позната со својата чудотворна моќ за леченје на тешки заболуванја.
За градбата на манастирот Света петка има легенда во која се вели дека Велгоштани почнале да и градат црква во знак на благодарност кон светицата за добрите дела .Градбата почнала во близина на селото .Изграденото ноќта Света Петка го разурнала . Тоа се повторило и вториот ден ,па мајсторите третиот ден поставиле стража. На мајсторите им рекла дека ја урива градбата зошто тука не сака да и градат црква туку на местото каде што сега се наоѓа.
Во манастирската црква во август се изведува поетска вечер на еден од најголемите македонски писатели Живко Чинго, родум од селото Велгошти.
Св.Петка Некогаш
Св. Петка Денес
