Okolí obce Sitke, ležící 8 km od Sárváru, je charakterizováno stopami intenzivní vulkanické činnosti, která zde probíhala zhruba v době před 4,5 miliony let.
Jejím výsledkem je také 230 m vysoký svědecký vrch Hercseg. Na zdejší vulkanické půdě se již od dob starých Římanů pěstuje vinná réva. Podle některých záznamů obec vznikla na místě někdejší římské osady Bassiana, což dokládají dodnes dochované pozůstatky místního amfiteátru ve východní části obce. Podle některých hypotéz byl zdejší pramen Bölönt, jehož sirná minerální voda je proslulá svými blahodárnými účinky, zdrojem vody pro římské lázně. Zdejší původně barokní zámek, přestavěný v romantickém stylu, slouží od roku 1982 jako hotel.
Na svahu vrchu jménem Köves na okraji obce nechali v roce 1871 někdejší majitelé zdejšího zámku Sándor Felsőbüki Nagy a jeho choť Teréz Weidgangová vystavět kapli, k jejímuž vysvěcení došlo 14. února 1872. Novogotická kaple se dvěma věžemi z pískovce leží na vyvýšeném prostranství připomínajícím opevnění.
Okolí kaple je obehnáno kamennou zdí se čtyřmi mřížovými bránami. Jedna z věží byla v minulosti poničena zásahem blesku, zařízení kaple bylo postupně rozebráno a plány stavby i dobové mince uschované v původních zdech se ztratily.
Rekonstrukce kaple byla zahájena v roce 1986 z iniciativy kulturního spolku za záchranu kaple, jehož předsedou se stal hudební skladatel Fecó Balázs, a její financování bylo zajištěno prostřednictvím výtěžků z koncertů, které zde spolek pořádal. Kompletní oprava byla dokončena v roce 1991.
Jednou z oblíbených událostí v rámci letních programů je každoroční srpnový koncert pod širým nebem, pořádaný rovněž na podporu údržby a rekonstrukce kaple.