Niewiele jest obiektów architektury sakralnej, które tak mocno zaznaczyłyby się na mapie Polski. Od świętokrzyskiego klasztoru pochodzi zarówno nazwa Gór położonych w Ziemi Kieleckiej, jak i nazwa nowego, obejmującego te tereny województwa. Klasztor świętokrzyski zbudowany jest nieco poniżej szczytu Łysej Góry, zwanej także Łyścem, o wysokości 596 metrów nad poziomem morza. Położony na nie zalesionym stoku klasztor góruje nad okolicą odgrywając w krajobrazie bardzo znacząca rolę. Dziś prowadzi doń wygodna asfaltowa szosa zbudowana w latach trzydziestych – dawniej dojeżdżało się tu od wschodu, od traktu sandomierskiego, czyli z drogi łączącej Morze Czarne z Bałtykiem, po stromej, krętej i wyboistej „Drodze Królewskiej”.
Pierwszy kościół na Łysej Górze zbudowany został w okresie Chrztu Polski z inicjatywy Dobrawy, małżonki pierwszego polskiego władcy. Była to rotundą, która umieszczeniu w niej głównego ołtarza i po dobudowaniu w XII stuleciu prostokątnej nawy zaczęła pełnić rolę prezbiterium. Nie jest znana natomiast data założenia klasztoru. Długosz powtarzając przekazy benedyktyńskie fundację przypisuje Bolesławowi Chrobremu, datując ją na rok 1006. Opat Maciej z Pyzdr, działający w klasztorze w II połowie XV stulecia, zapisał na marginesie Rocznika Świętokrzyskiego, że fundacja ta miała miejsce w roku 1020. Dzisiaj historycy skłonni są przesunąć tę datę o sto lat, do czasów Bolesława Krzywoustego, który wzniósł tu jednonawowy romański kościółek. Z tego okresu zachowały się fragmenty muru (do wysokości 9 metrów) w północnej ścianie obecnej świątyni, dobrze widoczne od strony południowego skrzydła krużganka. Zachowało się także ościeże okienne, umieszczone na wysokości około 6 m od poziomu posadzki. Materiałem, z którego zbudowana była romańska świątynia jest piaskowcowa kostka oraz znacznej wielkości ciosy, potem wtórnie użyte przy budowie krużganków.
Brak wiedzy na temat początków klasztoru ma swą przyczynę w najazdach Tatarów; wszelkie starsze dokumenty i kroniki spłonęły. Związana z klasztorem legenda o św. Emeryku, węgierskim królewiczu z rodu Arpadów, dzięki któremu w klasztorze znalazły się relikwie Świętego Krzyża, wskazywałaby na węgierskie „korzenie” fundacji – a zarazem na Krzywoustego, który pielgrzymował do opactwa w Samogywar. Do dziś też nie został rozstrzygnięty spór między Św. Krzyżem a Tyńcem, który klasztor jest starszy i który z nich był macierzystym opactwem polskich benedyktynów.
Zachowane na Świętym Krzyżu zapisy zaczynają się od roku 1259, czyli po drugim najeździe tatarskim. Klasztor został wówczas spalony i obrabowany a część zakonników wymordowano. Relikwie szczęśliwie ocalały ukryte wśród skał na gołoborzu. Klasztor odbudował książę Bolesław Wstydliwy – prace budowlane zakończono przed rokiem 1270.
Potem przez lat sto klasztor przeżywał okres spokoju, umożliwiającego konwentowi okrzepnięcie zarówno pod względem materialnym jak i duchowym. W tym to okresie ugruntowała się nazwa tutejszego opactwa: „Opactwo Ojców Benedyktynów Świętego Krzyża”, skrócona potem na „Święty Krzyż”. W roku 1370 klasztor złupili Litwini pod wodzą Kiejstuta i Lubarta. Wracając z wyprawy na Wołyń, „przy okazji” obrabowali opactwo i uprowadzili jeńców. Oszczędzili jednak klasztorne zabudowania, choć nie wiadomo czy przyczyną było tu lenistwo czy raczej pośpiech.