Oznaką ścian pierwotnych kościoła czerwińskiego z wieku XII jest ich materiał, a mianowicie obrabiany w kostkę (dość starannie co do zewnętrznej powierzchni i czworobocznych krawędzi) granit na polach okolicznych znajdowany, czyli tak zwane bloki eratyczne. Kościół czerwiński ma układ bazylikowy i skierowany jest po linii świętej ku wschodowi. Badania profesora Łuszczkiewicza wykazały, że tak samo jak w Tumie łęczyckim, wnętrze świątyni zostało w XVII w. zupełnie przerobione. Potrzeba odosobnionego prezbiterium, zakrystii i skarbca, pomieszczenia wielkiej liczby ołtarzy i siedzeń księżych, wprowadziły forsowne zmiany w programie pierwotnym kościołów romańskich. Odpowiednio tedy do tych nowych potrzeb i wymagań, utworzone tu zostało prezbiterium przez zamurowanie dwu ostatnich arkad i oparcie stall kanonicznych o ściany tym sposobem utworzone. Skrócono zaś nawy boczne ujęciem ich na kaplice i odgrodzeniem od absyd z jednej strony ścianą zakrystyjną, a z drugiej skarbcową.

Przy froncie kościoła naprzeciw obu naw bocznych, wzniesione są z granitu dwie kwadratowe wieże, mające boki zewnętrzne szerokie na 6,5 metra, a ściany grube na pięć ćwierci metra. W każdej ścianie tych wież powyżej zrębu kościoła znajdowało się po trzy romańskie okna, takie same jak w wieżach kościoła św. Andrzeja w Krakowie, który również jak czerwiński, jest zabytkiem wieku XII. Ogółem tedy znajdowało się w tych wieżach 24 podobnych okien, czyli tak zwanych przezroczy, z których kilka zachowało się dotąd w kształcie pierwotnym, inne zaś bądź całkiem zamurowane, bądź naprawiane cegłą w ten sposób, że w miejsce kamiennego środkowego filarka zrobiono gładką kolumnę z cegieł, licującą ze ścianą wieży. Po oknach nawy głównej nie pozostało śladów, gdyż przy przeróbkach księdza opata Szyszkowskiego znacznie powiększonymi zostały. Z okien zaś nawy bocznej utrzymało się przez zamurowanie kilka pierwotnych węgarowych obramień, przypominających rozmiarami małe okienko Tumu łęczyckiego. Ogólna długość wnętrza nawy głównej od ściany frontowej do absydy wynosi 36 metrów, naw bocznych 31 metrów, szerokość trzech naw razem 16 metrów, ściany wież mają być wysokie na 108 stóp.

Ślady pierwotnej ozdobności romańskiej zachowały się przede wszystkim w głównym portalu, prowadzącym z kruchty do wnętrza kościoła. Otwór jego zamknięty w górze półkolem, posiada szerokości dwa i trzy ćwierci metra, a towarzyszy mu od strony kruchty para kolumn romańskich, z których każda stoi w ustępie prostokątnym. Profesor Łuszczkiewicz przypuszcza z grubości muru frontowego, że portal miał jeszcze drugą parę kolumn. Kapitele dwóch istniejących dotąd kolumn odznaczają się bogatą ornamentacją figuralną i roślinną, a są wybornie kute z poczuciem artystycznym. Kształt ich ogólny wychodzi z zasady kostkowej, jest dołem okrągły, górą czworoboczny. Różnica obu kapiteli polega na odmiennej ornamentacji, ale wymiary są jednakowe. Na kapitelu z prawej strony wejścia widzimy maskę, trzymającą w ustach roślinne skręty, na kapitelu zaś lewym postać mężczyzny ze smokami. Kolumny i kapitele wykute są z drobnoziarnistego, zbitego piaskowca, przypominającego piaskowce użyte w Tumie łęczyckim. Z archiwolty, czyli łuku ozdobnego nad kolumnami i gzymsami zostały tylko drobne ułomki, gdyż późniejsze sklepienie kruchty, które zrobiono nisko, aby zyskać piętro na pomieszczenie organu, zakryło prawie cały łuk portalu, a raczej wyrąbano wszystko, aby się to sklepienie lepiej ściany trzymało.

Tyle z epoki Piastów, o której średniowiecznym zacofaniu i barbarzyństwie każdy młodzieniec gotów dziś rozprawiać. A jednak taka świątynia romańska z granitu ciosanego zbudowana, względnie do braku środków technicznych, komunikacyjnych i kulturalnych XII wieku, w kraju niedawno jeszcze pogańskim, w Mazowszu nieposiadającym małopolskiego możnowładztwa, była olbrzymim na owe czasy szczeblem i postępu, i cywilizacji. Dziś po ośmiu wiekach postępu świeci Czerwińsk ruiną, ubóstwem, ciemnotą, nieposzanowaniem pamiątek przeszłości. Darmo byś tu szukał kogokolwiek, żeby ci o dziejach opactwa i okolicy umiał coś ściślejszego powiedzieć albo zachowywał od zniszczenia dawne pamiątki. I Gawareckich już nie mamy, a nawet o rzekomo słynnych garncarzach czerwińskich nic się dowiedzieć nie mogłem. Na plebanii pokazano mi tylko stary, ogromny, ciekawy zamek od skarbca kościelnego, a w skarbcu trochę srebrnych, pogiętych rupieci, odebranych złodziejom, którzy przed kilku laty skarbiec ten okradli. Ludziska szepczą sobie tylko głuche wieści czy plotki, że co tylko miało wartość artystyczną, to wykupione zostało od złodziei przez handlarzy zagranicznych.

Od strony Wisły wąwozem u podnóża kościoła idzie droga, którą przechodzić musiało wojsko Władysława Jagiełły podczas trzydniowej przeprawy przez most pod Czerwińskiem, gdy szło r. 1410 na wojnę krzyżacką pod Grunwald. Nad wąwozem tym przy rogu kościelnego cmentarza jest pagórek, z którego — jak utrzymuje miejscowe podanie — Jagiełło z Witoldem mieli przypatrywać się zastępom dzielnego rycerstwa polskiego, gdy u stóp ich ciągnęło wąwozem. Bardzo być może, że na tym rogowym pagórku, gdzie dziś krzyż i ławeczki, stała wówczas baszta warowni klasztornej. To zaś jest pewne, że król Jagiełło, na podziękowanie Bogu za wielkie zwycięstwo nad zakonem niemieckim, złożył w kościele czerwińskim wotum srebrne i swój szyszak, co dochowywało się na miejscu do r. 1819, tj. kasaty opactwa.

Krążył z nami po wszystkich zakątkach opactwa jakiś człowiek sympatycznej powierzchowności i z pewną wiedzą umysłową, mówiący dużo, ale nielogicznie, a nas obdarzający szczególną swoją życzliwością. Kierowany jakimś instynktem, jeszcze nie wiedząc, że jest on obłąkany, miałem dla niego dziwne współczucie. Przypomniał mi się teraz jeden moment z moich wędrówek po kraju w latach dawniejszych. Kiedym raz jechał wózkiem góralskim ze Szczawnicy do Bochni, spotkałem także obłąkanego młodzieńca, który okazywał mi równie przyjazne uczucia i pod ich wpływem ofiarował wiązankę uzbieranej przez siebie konwalii. Czy to nie ciekawy objaw dla psychologa i pesymisty, że człowiek, aby chętniej okazywał swoją przyjaźń dla obcych, musi pierwej zwariować. Nasz biedak w Czerwińsku pomagał nam nosić aparat fotograficzny, a w kościele obdarzył nas melodią odegraną biegle na organach. Teraz dopiero dowiedzieliśmy się, że był to uzdolniony organista przy jakimś kościele nad Dnieprem, że miał młodą żonę, którą bardzo kochał i dwoje drobnych dziatek, i że gdy żona mu umarła, powrócił obłąkany do rodzinnego Czerwińska, a powrócił i bez dziatek, z którymi nie wiedzieć co się stało.

Czerwińsk zajął nam prawie całą dobę, więc dopiero nad zachodem słońca wyruszyliśmy nurtami Wisełki do odległego stąd o małą milę Wyszogrodu. Flisa miałem w kieszeni, więc jakże do niego nie zajrzeć:

„Tamże zaś odtąd poniesie cię woda

Przestronnym wartem aż do Wyszogroda,

Kędy na prawo gród bardzo wysoki