Pierwszy kościół, jeszcze przedcysterski, nosił prawdopodobnie wezwanie św. Wojciecha. Składał się z prostokątnej nawy o wewnętrznych wymiarach 6,3 na 10 metrów oraz dwóch absyd, z których zachodnia mieściła w sobie prostokątna emporę, wyżej przechodzącą w wieżę o planie siedmioboku. Zbudowano go w latach 1109-18, w czasach biskupa Maura. Materiałem była wapienna kostka. Pełny zarys budowli odsłonięto dopiero w roku 1977. Badania obiektu trwają do dzisiaj, ale od niedawna, dzięki przebudowie dachu nad klasztorem, zapewniającej dopływ światła, relikty najstarszego jędrzejowskiego kościoła można podziwiać w ich pełnej krasie.
Po założeniu klasztoru cystersi przejęli pierwotny kościółek, ale dla ich potrzeb był on zdecydowanie zbyt skromny – przystąpiono więc do budowy nowej świątyni. Budowa odbywała się etapami. Na początku zbudowano wschodnią część kościół – prezbiterium wraz z transeptem a także ściany naw bocznych. Materiałem budowlanym był piaskowcowy cios. Ściany nawy głównej, jej filary i arkady powstały w czasach gotyku, a do ich budowy użyto cegły. Zachodnia empora i wieża przedcysterskiego kościółka pozostały, tworząc zamknięcie głównej nawy. Po fazie gotyckiej kościół miał układ trójnawowej bazyliki z transeptem i trzyprzęsłowym prezbiterium. Przy transepcie znajdowały się kaplice, a za południową kaplicą zakrystia. Dalej na południe był kapitularz, który nie zachował się. Istnieją dwa dokumenty mówiące o konsekracji kościoła – oba zresztą są podrobione. Pierwszy datuje konsekrację na lata 1166-67, drugi na rok 1210. Oczywiście konsekrowano wówczas „romański” etap budowy, po którym nastała jego ceglana, faza gotycka.
Przez kilka stuleci kościół trwał w tym samym kształcie. Ważniejszą zmianą było tylko dobudowanie w XVII stuleciu prostokątnej zakrystii, dostawionej do południowej ściany prezbiterium, za bliźnimi kaplicami.
„W 1725 roku – pisze ksiądz Wiśniewski – klasztor i kościół strawił pożar. Odbudowa dokonana została w stylu barokowym. Także wnętrze uległo w pocz. XVIII w. Zupełnemu przeistoczeniu. Zrąbano wszystkie ozdoby romańskie, pilastry, gzymsy, gurty sklepienne, portale itp. Powleczono ściany stiukiem, efektownymi figuralnymi malowidłami, wprowadzono nowe świetne urządzenie”. Podczas odbudowy w latach 1728-30 przedłużono ku wschodowi prezbiterium, a potem (1751-4) dwuwieżową „ślepą” fasadę z dwiema, symetrycznymi wieżami, tak charakterystycznymi odtąd dla panoramy Jędrzejowa.
Od strony północnej zbudowano w latach 1733-42 dwie symetryczne (względem osi transeptu) kwadratowe, barokowe kaplice: Niepokalanego Poczęcia NMP – od wschodu i bł. Wincentego Kadłubka od zachodu. Kaplica Niepokalanego poczęcia połączone jest skośnym przejściem z kaplicami bliźnimi przy transepcie, zaś kaplica Kadłubka otwarta jest arkadą do północnej nawy kościoła. Kaplice nakrywają kopuły wsparte na żagielkach i zwieńczone latarniami. Proporcje kopuł, detal owalnych okienek doświetlających ich czasze dowodzą, że nieznany z nazwiska architekt, zatrudniony przez opata Wojciecha Ziemnickiego był mistrzem w swoim zawodzie.
W ramach odbudowy wykonane zostały też nowe sklepienia, o rozdzielonych gurtami poszczególnych przęsłach: w nawach kolebki koszowe z lunetami, w transepcie i prezbiterium żagielkowe. Tylko w nawie południowej częściowo zachowały się ostrołukowe gurty z 2. połowy XV stulecia.