Zahlreiche Baubefunde deuten auf eine Renovierung und den Ausbau der Pfalzanlage im 10 Jahrhundert. Das Fälldatum von Gerüstbalken in der Königshalle kann dendrochronologisch in die zweite Hälfte des 10. Jahrhunderts, wahrscheinlich um 986, datiert werden. Die wichtigsten archäologischen Beobachtungen betreffen jedoch die Sakralbauten. Erst 2004 wurden auf dem Saalplatz zwei mutmaßliche Kirchen archäologisch nachgewiesen. Sie sind als Vorgängerbauten der noch heute stehenden Saalkirche zu deuten. Damit ist das Problem der früh- und hochmittelalterlichen Sakraltopographie der Pfalz Ingelheim im Prinzip gelöst.
Bereits der Gründungsbau der Ingelheimer Kaiserpfalz verfügte über eine Pfalzkapelle. Insoweit haben die archäologischen Ausgrabungen auf dem Saalplatz 2003 / 04 eine zentrale Frage zur Baugeschichte der Kaiserpfalz zu klären vermocht. Etwa 50m nördlich vor der Saalkirche wurde das frühe Sakralzentrum der Karolingerpfalz entdeckt. Es wurden Reste von zwei Kirchen freigelegt, die dem Bau der Saalkirche im 10. Jahrhundert voraus gehen.
Die älteste nachweisbare Kapelle ist ein Bau mit drei Apsiden, der dem seltenen Bautyp der Trikonchien angehört: Drei Konchen mit einem Durchmesser von je ca. 4m sind im rechten Winkel angeordnet. Der Westabschluss der Kirche wurde beim Leitungsbau im 20. Jahrhundert vollständig zerstört. Hier ist das Kirchenschiff in der Form eines kleinen Rechtecksaals zu vermuten, - auch ein Zentralbau mit vierter Apsis wäre denkbar, hat aber nach dem Grabungsbefund die geringere Wahrscheinlichkeit.
Der Trikonchos ist originär eine antike Bauform. Im frühen Mittelalter lebte der Bautyp vor allen Dingen in der byzantinischen Kirchenbaukunst weiter. In Europa entstanden einzelne Bauten diesen Typs im Hochmittelalter, so zum Beispiel im Kloster St. Johann in Müstair (CH). Aus karolingischer Zeit ist ein Trikonchos in der Abtei Essen-Werden bekannt, dessen Existenz durch neuere Grabungen allerdings in Frage gestellt wird.
Vor 900 wurde der Trikonchos aufgegeben und durch einen Apsidensaal ersetzt. Der Baubefund lässt keine gesicherten Rückschlüsse darauf zu, warum die Bestehenszeit der Dreikonchenkapelle verhältnismäßig kurz war. Statische oder bautechnische Gründe wären denkbar. Es dürfte außerdem von Bedeutung gewesen sein, dass der Apsidensaal deutlich mehr Platz bot als die frühe Kapelle.
Es gibt bislang keine Funde, die das zeitliche Ende des Apsidensaals zuverlässig anzeigen würden. Die Tatsache, dass die Saalkirche nicht an diesem Platz auf bereits geweihtem Boden, sondern in baulicher Nachbarschaft errichtet wurde, liefert einen Hinweis darauf, dass der Apsidensaal erhalten werden und in Koexistenz mit der größeren Kirche fortbestehen sollte. Der Grund hierfür dürfte in einer funktionalen Trennung liegen, etwa zwischen einer Hauptkirche und der königlichen Privatkapelle.
Mit der Entdeckung der Kirchen I und II wurde die strittige Frage nach dem Standort der karolingischen Pfalzkirche(n) gelöst. Während die ältere Forschung bis 1964 in der Saalkirche die Pfalzkapelle Karls des Großen sah, offenbarten die stratifizierten Grabungsfunde der Ausgräber Walter Sage und Hermann Ament, dass deren Fundamente nicht vor 900 gelegt worden sein konnten. Seither wurde das Sakralzentrum an verschiedenen Plätzen zu verorten gesucht, unter anderem in einem Vorgängerbau der St. Remigiuskirche 400m außerhalb des Palastareals.
Die ältere Forschung sah in der Saalkirche die Pfalzkirche Karls des Großen. Jedoch führten die Ausgrabungen in den Jahren 1960 bis 1963 zu einer neuen archäologischen Datierung: Aus dem ältesten Fußbodenestrich stammen Keramikfunde aus der Zeit nach 900. Demnach musste die Saalkirche nachträglich in den älteren, karolingischen Bauverband eingefügt worden sein. Bis vor Kurzem glaubte man deshalb, die Saalkirche sei im 10. Jahrhundert entstanden, als die Ottonen die Königsmacht übernommen hatten. Das war eine plausible Annahme, denn die ottonischen Könige und Kaiser sind häufig zur Feier des Oster- und Weihnachtsfestes in Ingelheim gewesen. Sie nutzten die Pfalz auch für wichtige Synoden, also Bischofsversammlungen. Allein König Otto III. und seine Mutter, die Kaiserin Theophanu, waren am Ende des 10. Jahrhunderts zwölfmal in Ingelheim. Jedoch konnte man kürzlich zwei Holzkohleproben aus dem Fundament der Saalkirche entnehmen, die eine Datierung in die Jahre 1027- 1154 aufwiesen. Demnach wurde die Kirche erst in der Salierzeit erbaut. Was dies im Hinblick auf die Geschichte der Kaiserpfalz bedeutet und warum die Salier einen neuen Kirchenbau erschufen, muss die weitere Forschung zeigen.
Die heutige Saalkirche spiegelt in ihrem Grundriss den Ursprungsbau wieder. Das Querhaus war jedoch ursprünglich niedriger und wurde wahrscheinlich erst bei einer Renovierung im 12. Jahrhundert aufgestockt. Im Zuge dieser Renovierung erhielt die Kirche auch den romanischen Bauschmuck innen im Chor und außen an der Apsis (halbkreisförmiger Gebäudeabschluss). Ob die flankierenden Türme bereits am ersten Bau vorhanden waren, oder erst bei der Renovierung angefügt wurden, ist bis heute unklar. Im 19. Jahrhundert wurde schließlich noch der dritte, große Glockenturm angefügt.
Das Mauerwerk von Chor und Querhaus stammt zu großen Teilen noch aus der ersten Bauphase. Das Langhaus war demgegenüber im 30-jährigen Krieg zerstört worden und existierte lange Zeit nicht. Es wurde erst in den 1960er Jahren auf den mittelalterlichen Fundamenten wiederaufgebaut. Am Außenbau sind heute die mittelalterlichen Teile (rot) von den jüngeren Ergänzungen (gelb) abgesetzt. Der ursprüngliche Schutzheilige der Saalkirche ist heute unbekannt. Ihren Namen hat die Kirche von ihrer Lage im sogenannten „Saal“. Als „Saal“ wird das ehemalige Kaiserpfalzgebiet spätestens seit dem 16. Jahrhundert bezeichnet. Die Kirche dient heute als evangelische Pfarrkirche.
Neben den Sakralbauten im Kern des Palatiums existierten weitere Kirchen am Ort, die im Bedarfsfall für die Kaiserpfalz nutzbar gemacht werden konnten. Ihrer Bestimmung nach sind es Pfarr- oder Coemeterialkirchen, doch spielt ihre originäre Funktion offenbar keine Rolle für die zeitlich befristete Nutzung durch den Hof.
Ein anschauliches Beispiel bildet die große Reichssynode von 948. Sie tagte unter dem Vorsitz des päpstlichen Legaten Marinus von Bomarzo in Anwesenheit des deutschen und des französischen Königs in der St. Remigiuskirche. Vielleicht bot die eigentliche Pfalzkirche nicht genügend Platz für die zahlreichen Synodalteilnehmer? Die eigentliche Motivation für den Ortswechsel dürfte aber die räumliche und ideelle Nähe des Kirchenpatrons St. Remigius gebildet haben, dessen Patronat als ein gutes Vorzeichen für die Schlichtung des Reimser Bistumsstreites angesehen worden sein dürfte.
Zwei der drei in den Quellen genannten Sakralbauten existieren noch heute als Pfarrkirchen für das Stadtgebiet Ingelheim: St. Remigius in der Flur „Belzer“ in Nieder-Ingelheim und St. Wigbert, die Burgkirche mit Wehrfriedhof in Ober-Ingelheim. Hingegen ist die 1407 erstmals erwähnte St. Peter und Paul-Kirche nicht lokalisierbar, sie wird bereits in der Frühneuzeit untergegangen sein.