Niinkuin kaikki tiedämme, lähetti piispa Skytte näinä aikoina kahdeksan Suomen nuorukaista omalla kustannuksellansa Saksanmaalle. Niiden joukossa oli myös Agricola, joka tuli Wittenbergiin talvella v. 1536. Neljä vuotta siellä oltuansa ja maisteriksi tultuansa 1539, palasi hän kotimaalle tuoden mukanaan Lutherilta ja Melanchton'ilta saadut suosituskirjeet, joissa he suuresti kiittävät hänen lahjojansa ja oppiansa sekä kehoittavat Ruotsin kuningasta, Kustaa Vaasaa, hänelle soveliasta virkaa antamaan.
Agricolalle uskottiinkin kohta rehtorin virka Turun koulussa, jossa hän toimi yhdeksän vuotta semmoisella innolla ja taidolla, että hänen koulunsa pysyi hyvässä kunnossa ja suuressa arvossa, vaikka kaikki muut koulut Ruotsin valtakunnassa ensi aikoina uskonpuhdistuksen perästä joutuivat peräti rappiolle.
Mutta Agricola oli vielä korkeampiin paikkoihin, vielä suurempiin toimiin aiottu. Vuonna 1548 määräsi kuningas hänet Turun piispan virkaa toimittamaan, josta vanha Martti Skytte heikkoutensa tähden oli pyytänyt eroa. Piispa kuoli v. 1550, ja 1554 peri Agricola hänen hiippansa, jonka aluskunnasta kuningas kuitenkin oli eroittanut kaakkoisen osan Suomea eri hiippakunnaksi Paavali Juusten'ille. Elämänsä lopulla käytettiin häntä tärkeään valtiolliseenkin toimeen. Hän sai nimittäin käskyn seurata sen lähetyskunnan mukana, joka v. 1556 meni Moskovaan Ruotsin ja Venäjän välillä silloin raivoavaa sotaa sovittamaan. Tämä oli Agricolan viimeinen toimi. Moskovasta palatessaan rauhanteon päätettyään, sairastui hän kovasti, niin pian kuin oli joutunut oman maan rajain sisälle, ja kuoli juuri kun häntä hänen pyynnöstään ruvettiin nostamaan reestä ulos. Se tapahtui 9:nä p:nä Huhtikuuta 1557 Kyrönniemen kylässä Uudenkirkon pitäjää. Ruumis vietiin Viipuriin, jossa se haudattiin suurella juhlallisuudella silloiseen tuomiokirkkoon. Nyt on Viipurin tuomiokirkko jauhomakasiinina, ja Agricolan luut lepäävät, missä levännevätkin jossakussa kuopassa sekaisin kaikkein muiden tuomiokirkossa haudattuna olleiden luiden kanssa.
Juuri niinä vuosina, joina Agricola toimitti piispanvirkaa vanhan Skytten sijasta, poistettiin enin osa katolisuskon menoja, vaikka kyllä alku jo oli tehty aikaisemmin ja vielä kesti puolen vuosisataa, ennen kuin työ oli loppuun suoritettu. Agricolaa sopii siis syystä sanoa varsinaiseksi uskonpuhdistajaksi Suomessa. Tässä toimessa oli hän hyvin harras ja innokas, kuitenkaan käyttämättä väkivaltaisia, jyrkkiä keinoja hyvän asian edistämiseksi. Totisena Suomalaisena hän turvasi ja luotti paraiten sanan voimaan, ja se ase vaikuttikin hänen kädessään enemmän kuin Kustaa kuninkaan kovimmat käskyt olisivat voineet saada aikaan. Hän antoi kansallensa Pyhät Kirjat ja pelasti sen sillä ijäksi päiväksi paavinvallan ikeestä. Eikä siinä kaikki: hän antoi kansallensa kirjallisuuden alun ja pelasti sen sillä jäljettömästä katoamisesta maan päältä.
Kaikkein ensimmäisenä tehtävänä, ennen kuin kirjallisuudesta voi olla mitään hyötyä, oli Suomen kansan lukuun taivuttaminen. Sentähden aloittikin Agricola kirjallisen toimensa Aapiskirjan painattamisella, niinkuin hän itse Psaltarin esipuherunossa mainitsee:
Quin Abckiria ensin on,
sijtte Alcu-Opista wscoon.
Tämä kirja luultiin kauan aikaa peräti kadonneeksi, kunnes siitä meidän aikoinamme löytyi muutamia kappaleita Upsalan kirjastossa erään toisen kirjan kansiksi yhteenliimatuilla lehdillä. Se sisältää, paitsi aakkosta, uskon alkeet: kymmenet käskyt, uskonkappaleet, Isämeidän-rukouksen, enkelin tervehdyksen Maarialle sekä kasteen, ripin ja alttarin sakramentit. Viimeinen lehti, jossa sen ajan tavan mukaan löytyi painatusvuosi- ja painatuspaikka mainittuna, valitettavasti puuttuu.[15] Yleisesti on tähän asti oletettu, että Agricola heti Aapiskirjan jälkeen olisi toimittanut jonkullaisen katkismuksen suomeksi v. 1543. Tämän Messenius'en tiedon-annon tekevät kuitenkin useat asianhaarat epäiltäväksi: ensiksi hän väärin ilmoittaa samana vuonna myös Psaltarin ilmestyneeksi ja toiseksi hän puhuu Lutherin katkismuksen suomennoksesta, joka tuntuu kummalliselta, kun ottaa huomioon Aapiskirjan ja sitä seuraavan Rukouskirjan puoleksi katolisen sisällyksen sekä sen seikan, että Lutherin katkismuksesta ei löydy ruotsinnostakaan tältä ajalta. Agricolan Aapiskirjansa rinnalla mainitsema Alkuoppi uskoon ei tarkoittane muuta kuin varsinaiseen aakkoseen liitettyä alkeis-oppia. Abc-kirian alkulehdellä hän näet lausuu:
Lue sijs hyue Lapsi teste,
Alcu oppi ilman este.
Sitä paitsi on mahdollista, että sana sijtte ylläolevissa säkeissä olisi luettava tässä paikassa "siittä", eikä "sitten", taikka olisi väärin painettu sijte ("siitä") sanan asemesta, joten kirjan nimenä aivan luonnoton Alcu-Opista kävisi ymmärrettäväksi. Jos kuitenkin Agricola on toimittanut luterilaisen katkismuksen suomeksi,[16] niin on se kenties ilmestynyt, niinkuin Messenius. jos kohta väärän vuosiluvun kohdalla, asian esittää, jälkeen Psaltarin suomennoksen, johon kirjateokseen sekä Agricolan luettelo että Juusten'in tiedonannot päättyvät.
Tiettävästi vuonna 1544 ilmestyi Rucouskiria, joka sisältää paljon muutakin, paitsi mitä nimi näkyy lupaavan. Neljässäsadassa lehdessään sisältää se ensin almanakan ynnä siihen kuuluvien astroloogisten tauluin ja sääntöin kanssa, kaikellaisia muita hyödyllisiä tietoja ja sananlaskuja,[17] latinankielisiä jumalisia lauseita, luettelon paratiisin iloista ja helvetin piinoista, ensimmäisen luvun Johanneksen ja Luukkaan, toisen luvun Matteuksen ja viimeisen luvun Markuksen evankeliumista. Sitten seuraa esipuhe rukoilemisen tarpeellisuudesta ynnä kehoitus papeille kansaa opettamaan tästä kirjasta, sen perästä Manaus Pappien tyge enemmän virasta kuin maallisesta hyödystä huolta pitämään, ja kolmanneksi Valitos nykyistä Mailma wastan, joka ei tahdo enää maksaa papille saatavia niinkuin ennen. Kaikki kolme ovat riimillisiin värssyihin pantuina ja valaisevaiset senaikuisten tapain historialle. Nyt vasta tulevat itse rukoukset, suomennetut useampain kirkko-isäin teoksista. Tämän kirjan ilmestyminen oli käännekohtana Suomen kirkkohistoriassa; sillä siitä ajoin alkoi kansan kieli kaikua latinan sijasta kirkoissa. Se saattoi kuulua oudolta, josta syystä Agricola näki vielä tarpeelliseksi, moista rohkeata muutosta tehdessään vakuuttaa: