Turkuun tultuaan ehti Agricola kuulla Pietari Särkilahden saarnoja, vaikka tämä kuoli jo pari vuotta hänen tulonsa jälkeen. Särkilahden voimakkaat puheet vaikuttivat niin, että Agricola yhtyi täydestä sydämestään hänen oppejaan kannattamaan. Tultuaan sitten piispan sihteeriksi hän sai erinomaisen tilaisuuden uuden opin levittämiseen kulkiessaan piispan mukana tarkastusmatkoilla. Tällöin siis jo alkoi Agricolan vaikutus uskonpuhdistuksen hyväksi.
Piispa oli myöskin uuden opin ystäviä, vaikka hän ei suorastaan ryhtynytkään vanhaa kaatamaan. Jo keskiajalla oli Suomen piispoilla ollut tapana kustantaa erityisen lahjakkaita nuoria miehiä ulkomaiden yliopistoihin. Siellä saamainsa perinpohjaisten tietojen kautta he kasvoivat kykeneviksi johtamaan kirkon elämää kotimaassa. Martti Skytte lähetti myöskin opiskelijoita ulkomaille. Niitä onnellisia nuoria miehiä, jotka saivat käyttää hyväkseen piispan avuliaisuutta, oli myös Mikael Agricola. Piispa lähetti hänet Wittenbergin yliopistoon Saksaan, siis juuri sinne, missä suuret uskonpuhdistajat Luther ja Melankton itse opettivat.
Ruotsissa oli näihin aikoihin jo tehty paljon uskonpuhdistuksen hyväksi. Katolisuuden johtomiehet olivat pyytäneet kuningasta kieltämään uusien väärien oppien saarnaamisen. Kuningas, mainio Kustaa I Vaasa, ei siihen suostunut, ja säädyt päättivät että »Jumalan sanaa oli kaikkialla valtakunnassa puhtaasti saarnattava» ja että puheet väärästä opista olivat turhia huhuja. Kuningas koetti kaikin tavoin auttaa uuden opin levenemistä, se kun oli sopiva hänen valtiollisillekin harrastuksilleen. Niinpä hän kirjoitti myöskin piispa Skyttelle, kehottaen häntä edistämään uskonpuhdistuksen asiaa. Tässä suhteessa oli tärkeää saada pappien valmistus uuden opin miesten käsiin. Siksi nimitettiin rehtoriksi Turun kouluun, jossa pappimme saivat kasvatuksensa, piispan Wittenbergissä kouluuttamia miehiä.
Tähän virkaan joutui Agricolakin, kun hän Wittenbergissä maisterin arvon saatuaan 1539 palasi Suomeen. Yhdeksän vuotta hän oli koulun rehtorina. Sillä aikaa ehti hän istuttaa uutta oppia moneen nuoreen mieleen. Mutta hän joutui vähän huonoihin väleihin kuninkaan kanssa ja menetti rehtorinvirkansa.
Koulut olivat siihen 'aikaan yksinomaan pappien valmistamista varten. Vaatimattoman papin tai ylhäisemmän kirkonmiehen asema oli jokaisen koululaisen päämääränä. Kunniana tai suosiona ei pidetty, jos kesken koulunkäynnin joku kutsuttiin hallituksen palvelukseen, sihteeriksi tai joksikin muuksi ala-arvoiseksi virkamieheksi. Mutta kun hallitus antoi koulun rehtorille määräyksen, että niin ja niin monta etevintä »teiniä» l. oppilasta oli hallituksen käytettäväksi lähetettävä, ei siinä useimmiten auttanut muu kuin totteleminen. Agricola ei tällaisia määräyksiä tahtonut mitenkään noudattaa. Se sai kerrankin kuninkaan kirjoittamaan hänelle m.m.: »Tämä ihmetyttää meitä sangen paljon; emmekä tiedä tokko te ja muut tahdotte pätevänä pitää, mitä me teille käskemme ja määräämme. Sentähden on nyt meidän tahtomme ja käskymme, että tätäkin asiata täydellisesti ajattelette ja hankitte meille kaksi tai kolme sopivaa henkilöä mainittuihin virkoihin (kuninkaan kansliaan tai tilikamariin), koskapa olemme hyvin kuulleet, että sellaisia Jumalan kiitos kyllä on tarjolla koulussa. Ellei se tapahdu, silloin on meidän pakko tehdä jotakin muuta asiassa, ettekä te siitä saisi paljonkaan suosiota ja kiitosta. Sitä noudattakaa!» Vieläkään ei Agricola käskyä totellut. Joskus rehtorit antoivat mahdollisimman aikaiseen vihkiä papiksi nuoret miehet, joita tällainen vaara uhkasi. Pappeina heidän ei enää tarvinnut virkamiehiksi mennä.
1548 kuningas nimitti koulun rehtoriksi toisen miehen Agricolan sitä laisinkaan odottamatta. Tämä lienee johtunut osaksi siitä syystä, että Agricola tarvitsi aikaa muihin toimiinsa, kun hän oli piispan apulaisena, ja ehkä osaksi kuninkaan epäsuosiosta. Hänen tulonsa lienevät vähentyneet, ja olivat ne ennen piispan virkaan astumista 150 tynnyriä ruista, 57 tynnyriä ohria, 19 tynnyriä kauroja, vähän vehnää ja herneitä sekä 84 leiviskää voita.
Hänen taloudellinen asemansa kuitenkin parani, kun hänet v. 1554 nimitettiin Turun piispaksi Martti Skytten kuoleman jälkeen (1550), vaikkeivät piispan tulot olleetkaan yhtä suuret kuin ennen, kun Suomi tällöin jaettiin kahteen hiippakuntaan, Paavali Juustenin tullessa Viipurin piispaksi, ja kun Kustaa Vaasa muutenkin oli vähentänyt toimillaan hengenmiesten tuloja. Piispan tehtäviä hän oli saanut hoitaa jo Skytten vanhuuden aikana tämän apulaisena, ja hänen kuoltuaan Agricola oli ollut sijaispiispana.
Nyt Agricola oli saanut aseman, jossa täydellä todella voi ruveta ajamaan uskonpuhdistuksen vaatimia uudistuksia. Siihen suuntaan hän olikin jo kauan tehnyt työtä.
Helppoa ei ollut kaikkien uskonnollisten menojen uudelleen järjestäminen. Papisto oli tottunut työskentelemään katolisissa tavoissaan, samoin seurakunnat olivat tottuneet kunnioittamaan katolisia menoja. Nyt oli kaikki saatava toiseen asuun. Mutta ei ollut valmiita käsikirjoja, joita olisi voitu pappien noudatettavaksi määrätä. Ei ollut virsikirjoja seurakuntaa varten, ei yleensä mitään kirjoja, joita olisi suomenkielisessä luterilaisessa jumalanpalveluksessa tarvittu. Eihän suomen kielellä ollut mitään muutakaan kirjallisuutta, ei ainoatakaan kappaletta. Joitakuita suomalaisia rukouksia olivat, kuten jo edellä mainittiin, papit ennen kirkoissa käsin kirjoitetuista papereista lukeneet, siinä kaikki.
Näitä vastuksia Agricola ei säikähtänyt. Vaikkei kirjoja ennen suomen kielellä ollut, oli niitä nyt tehtävä, kirjoitettava, muista kielistä käännettävä. Suurin ja tärkein tehtävä olisi ohut kääntää suomeksi raamattu. Siten olisi tullut toteutetuksi yksi uuden opin tärkeimpiä periaatteita: jokainen olisi voinut itse tutustua uskonsa perusteisiin. Mutta toisia kiireellisempiä töitä oli ensin suoritettava. Eihän kansa kuitenkaan olisi kyennyt raamattua käyttämään, kun se ei osannut lukea. Siksi oli ensimäiseksi kirjoitettava aapinen oppaaksi lukuharjoituksiin. Ja niinpä ilmestyikin »Abckiria» luultavasti 1542. Aakkosten lisäksi on siinä kymmenet käskyt, uskonkappaleet, Isämeidän rukous, enkelien tervehdys Maarialle sekä kasteen-, ripin ja alttarinsakramentit.