Крепостта „Свети Дух“ е една от най-големите атракции, намиращи се в самия център на Минерални бани. През средновековието крепостта „Свети Дух” е била често преустройвана. В един период кулите са били използвани като жилищни помещения. През византийския период твърдината е основно обновена и така посреща нападението на печенезите. 

Вече през 12-ти век се появява голям средновековен некропол, а в гробовете са открити значително количество накити. Животът в крепостта окончателно се прекратява в края на 14 век с идването на османците. Както при всички обекти от тази епоха при разкопките са открити десетки керамични съдове, оръжия, оръдия на труда и други предмети. Сред находките са и 120 медни, сребърни и златни монети, както и един печат на византийски аристократ.