De Grote Kerk ligt op een terrein waar vroeger de abdij van Rijnsburg lag. De abdij werd in 1133 als benedictinessenklooster gesticht door Petronella van Saksen, de vrouw en weduwe van graaf Floris II naar aanleiding van een op de Friezen behaalde overwinning op St. Laurentiusdag. In 1296 werd dit bouwwerk door brand getroffen en moest zodoende weer herbouwd worden. De oude abdijkerk werd in 1573-1574 verwoest en kort daarna gedeeltelijk afgebroken. Aan de westzijde van de kerk waren aanvankelijk twee torens, de zuidelijke toren bleef staan als baken naar nieuwe tijden.
Omstreeks 1578 werd een ander, eenbeukig kerkgebouw opgetrokken tegen de nog bestaande toren. In 1633 werd een noorderzijbeuk aangebouwd. De kooromgang kwam vermoedelijk tot stand in 1660. Binnen één eeuw na de stichting werd de kerk tweemaal vergroot, zoals een opschrift uit 1660 boven de kansel aangeeft. De kansel zelf draagt het jaartal 1661. Tegen de kooromgang is een consistorie aangebouwd.
De lantaarn en de naaldspits van de toren dateren uit 1830 en zijn herbouwd bij de restauratie van 1964. Vanwege plaatsgebrek werd de kerk in 1903 uitgebouwd met de zuiderzijbeuk, in 1910 met het noordertransept en in 1923 met het zuidertransept. Zo ontstond het huidige gebouw met de driebeukige opzet met transepten. Een grote restauratie vond plaats in de jaren 1980-1981.
De kerk heeft een 12de eeuwse tufstenen toren met drie geledingen, een overblijfsel van het westfront van de voormalige abdijkerk. Links achter de kerk zijn, sinds de opgravingen van 1949-1951, de contouren van een kerk of een kapel te zien; een schip met klaverbladvormig koor. Volgens recent onderzoek zou dit met name de Gravenkapel zijn waar de Hollandse graven en hun familieleden begraven zijn. De opgegraven funderingen fungeren thans wederom als mausoleum en gedenkteken voor de graven en gravinnen van het Hollandse huis die hier ooit begraven zijn. Om die reden is voor aan de weg, voor de fundamenten, een groot standbeeld geplaatst van graaf Floris V. De kerk heeft nog enkele in de muur ingezette graf- of gedenkstenen uit de 13e eeuw, deze stenen waren gevonden in de kerkruïne.
Een romaanse steen met renaissance opschrift noemt de namen van Graaf Willem I van Holland (1222) en zijn vrouw Alleid van Gelre (1218), vergezeld van twee primitieve portetkoppen. Een fragment van een steen met de afbeelding va een vrouwenkop, toegeschreven aan Gravin Petronella van Saksen, stichteres van de Abdij en een steen van de abdis Ada van Holland (1258). De herinnering en de verbondenheid van Rijnsburg met het Grafelijk Hollandse Huis leefde in de 17e eeuw nog steeds. In de vloer van de kerk werden abdissengrafstenen uit de kloostergang gelegd.
Het jaartal 1633 is na de verbouwingen van de 17e eeuw aangebracht in het deurkozijn tussen kerk en toren. De ronde herenbank, ook uit de 17e eeuw, is na de laatste restauratie weer in de kerk teruggekomen. Tussen kerk en consistorie is een fraaie eiken deur te vinden en in de consistorie bevindt zich een 17e eeuws eiken wandkastje. De kansel heeft een fraaie koperen lessenaar uit de 17e eeuw, waarop het wapen van Rijnsburg is afgebeeld. Psalmborden uit het begin van de 19e eeuw en de twee 17e eeuwse tekstborden en een 17e eeuws grafbord sieren de wanden van de kerk.
De 50 klokken in de toren zijn gemaakt door Cornelis Ammeroy, in 1599 benoemd tot klokkengieter van de stad Amsterdam.
Orgel Grote Kerk
Uit archiefstukken blijkt dat reeds in de Abdij- en parochie kerk een orgel aanwezig was. Over dit orgel is niets bekend. In 1873 liet men een orgel bouwen door de bekende 19e eeuwse orgelbouwer Knipscheer te Amsterdam voor fl. 1.300,-, deze heeft tot 1922 dienst gedaan en werd toen verkocht aan de Hervormde Gemeente van Weerselo in Overijssel. Orgelbouwer van Leeuwen uit Leiderdorp bouwde in 1922 een nieuw orgel dat op 23 mei 1923 in gebruik werd genomen. Dit orgel vormt de basis voor het huidige orgel.
In 1974 krijgt de firma van der Linden uit Leiderdorp opdracht om een nieuw, mechanisch orgel te bouwen achter het front van het bestaande orgel, gebruik makend van enig bestaand pijpwerk. In 1989 wordt het orgel gerenoveerd door de firma Pels en van Leeuwen uit ’s Hertogenbosch.
Vanaf 2008 is op initiatief van de plaatselijke organisten een plan opgesteld met Adema’s Kerkorgelbouw uit Hillegom voor groot onderhoud en verbeteringen.