Mutta Jyväskylän koulu vähin erin suomalaistui kokonaan, ja se näytti suomenkielisen opetuksen ylimalkaan olevan mahdollista ja kehoitti muuallakin perustamaan aluksi samanlaisia kouluja. Niinpä Tampereelle ja Joensuuhun anottiin perustettavaksi kaksikielisiä kouluja, mutta kotimainen ruotsinmielinen hallitus ne epäsi, kun sitävastoin kenraalikuvernööri oli tamperelaisten anomusten puolella ja keisari ratkaisi asian koulun hyväksi.
Ensimäisillä valtiopäivillä 1863—64 tuli koulukysymys monella tavoin esiin ja siinä sivussa suomenkielen asia. Nyt oli Snellman jo senaatissa ja hänen vaikutuksestaan tuli 1865 voimaan uusi asetus, jossa koulujen kaksikielisyyttä terotettiin ja jossa m.m. sanottiin, että »Suomen Senaatin Talous-Osastolle kuuluu järjestänsä säätää useampain aineiden opettamisesta oppilaitoksissa suomenkielellä».
Jospa senaatissa olisikin istunut pelkkiä Snellmaneja, niin epäilemättä se olisi piankin laajassa mitassa käyttänyt sille myönnettyä oikeutta säätää yhä useampien aineiden opettamista suomeksi, mutta niin ei käynytkään. Päin vastoin kukistui Snellman itsekin pois senaatista, ja sen jälkeen seurasi kouluasioissa surkea takatalvi. Senaatti joutui kiihkoruotsinmielisten johdettavaksi ja peittelemättä lausuttiin sekä hallituksen että ruotsinmielisten piirissä, että äsken mainittu asetus koulujen kielestä oli vaan paperilla. Ja pian kiihtyi vastenmielisyys suomenkieltä kohtaan varsinaiseksi kouluvainoksi. Helsingin normaalilyseon suomalaiset rinnakkaisluokat päätti senaatti lopettaa; keisari ei siihen kuitenkaan suostunut. Sen sijaan, kuten ennen kerrottu, ne siirrettiin Hämeenlinnaan, ettei Helsinkiin olisi jäänyt ainoatakaan suomenkielistä koulua. Mutta suomenmieliset keräsivät 200,000 mk., jolla perustettiin yksityinen »Helsingin Suomalainen Alkeisopisto» ja rakennettiin sille oma talokin — sama, jossa nyt sijaitsee kouluylihallitus. Ja kun mitään uusia suomenkielisiä kouluja ei valtion varoilla perustettu, syntyi useita muita »yksityislyseoita» ympäri Suomen kansan karttuisan käden tukemina ja ylläpitäminä. Se oli kyllä tavallaan raskasta, mutta myös nuorekkaan innostuksen aikaa, jonka etupäässä joukon johtajana kulki Yrjö-Koskinen ja hänen johtamansa »fennomaaninen» puolue.
Ja nyt, tuskin vuosikymmenen kuluttua kiihkeimmän koulutaistelun päivistä istui Yrjö-Koskinen itse senaatissa. Hän sai nyt tilaisuuden koululaitoksen ylimpänä johtajana viedä nuo kipeät koulukysymykset terveeseen ja Suomen kansalle suotuisaan päätökseen. Suomenkieliset yksityislyseot otettiin vähitellen valtion huostaan; uusia lyseoita ja tyttökouluja perustettiin; ahtaiden ja sopimattomien koulurakennusten sijalle hankittiin uusia ajanmukaisia. Kuinka ripeä edistys koulualalla nyt tapahtui, osoittaa muun muassa se seikka, että Yrjö-Koskisen senaattoriksi tulosta hänen eroonsa asti oppilasmäärä yksin yliopistoon vievissä oppikouluissa lisääntyi 3731:stä 7389:ään eli enemmän kuin kaksinkertaisesti, ja että viimeksi mainitusta lukumäärästä 4243 oli suomenkielisten koulujen oppilaita. Mutta sen lisäksi oli perustettu pienemmille paikkakunnille alempia kouluja, jotka nyt on muodostettu n.s. keskikouluiksi tai kasvaneet täydellisiksi yliopistoon johtaviksi kouluiksi. Voimme painaa muistiin, että Yrjö-Koskisen senaattori-aikana valtion ylläpitämien suomenkielisten oppikoulujen luku kasvoi nelinkertaiseksi, mutta ruotsinkielisten koulujen luku vähän väheni sen johdosta, että supisuomalaisilla paikkakunnilla niistä loppuivat oppilaat niin pian kun suomalainen koulu syntyi rinnalle. Myöhempinä vuosina on kehitys jatkunut samaan suuntaan, jopa siinä määrässä, että monen mielestä ylioppilaita alkaa tulla liiaksikin, joten oppikoulujen järjestäminen valmistamaan maan nuorisoa enemmän käytännön aloille kuin tähän asti on käynyt polttavaksi ajankysymykseksi.
Myöskin kansakoulun kehityksestä muisti Yrjö-Koskinen huolehtia, vaikka tällä alalla ei olekaan koskaan ollut kielikiista kysymyksessä. Sitävastoin oli olemassa tuntuva epäkohta siinä, että monessa seudussa oli kansakouluja liian harvassa, joten lukuisilla pienillä lapsilla oli liian pitkät koulumatkat tai ei voitu ajatellakaan heitä kouluun, eivätkä kunnat suostuneet suosiolla perustamaan kouluja näitä syrjäkylien lapsia varten. Senaattoriaikansa aivan viimeisinä vuosina harrasti Yrjö-Koskinen sellaisen lain aikaansaamista, että kun jollakin paikkakunnalla on 30 kansakouluikäistä lasta ja kuntaa pyydetään sille paikkakunnalle perustamaan koulu, on kunta siihen velvollinen. V. 1898 vahvistettiinkin sellainen laki, ehkä viime hetkessä, koska pian sen jälkeen valtiollisissa oloissamme tapahtui suuria muutoksia ja mahdollisuudet kansakoululaitoksenkin kehittämiseen melkoisesti pienenivät. Nyt sitä vastoin tämän »kouluvelvollisuuslain» kautta on kansanvalistus saatu juurtumaan sangen paljon laajemmalle kuin ilman sitä olisi ollut mahdollista, ja vähitellen voitanee meidänkin maassamme ruveta toimeenpanemaan »oppivelvollisuuslakia», jollainen muissakin sivistysmaissa on, eli että jokaisen terveen lapsen on käytävä kansakoulu lävitse, ellei hän muulla tavalla hanki itselleen vastaavaa sivistystä.
Samoin kuin Snellman, joutui Yrjö-Koskinenkin pois senaatista erimielisyyden takia, ero vaan oli siinä, että Snellmanin kukisti kenraalikuvernööri, Yrjö-Koskisen uusi puoluejako, joka muodostui uuden kenraalikuvernöörin johtaman venäläistyttämistyön johdosta. Tämä näet oli saanut korkeimmalta taholta hankituksi Suomen perustuslakeja rajoittavan asetuksen, joka senaatin piti julaista kuten asetukset ylimalkaan. Kiihtymys oli sen johdosta koko maassa tavattoman suuri. Monilta tahoilta vaadittiin, että tuota uutta asetusta perustuslakien vastaisena ei ollenkaan julkaistaisi. Senaatti oli kuitenkin sitä mieltä, että sen velvollisuus oli se julkaista. Erimielisyyttä oli vaan olemassa sen johdosta, oliko julkaiseminen tapahtuva ennen, kuin oli korkeimpaan paikkaan tehty esitys sen perustuslainvastaisuudesta, vai vasta sen jälkeen. Edellinen mielipide, jota myös Yrjö-Koskinen kannatti, pääsi voitolle, ja asetus, tuo kuuluisa helmikuun 15 p:n manifesti (vuodelta 1899) julkaistiin, jonka jälkeen senaatti Hallitsijalle esitti sen poikkeavaisuuden perustuslaeistamme. Hallitsevassa mielten kiihtymyksessä ja siinä epätietoisuudessa, johon valtiolliseen asemaamme nähden oli tuon manifestin johdosta jouduttu, pääsivät puolueintohimot entistä enemmän valloilleen. Kun ruotsalainen puolue miltei kokonaisuudessaan kuului julkaisemista vastustavaan puolueeseen, nosti se etupäässä vanhaan vastustajaansa Yrjö-Koskiseen tähdätyn myrskyn, jonka vertaista ei ole ikinä vielä Suomessa ollut ja joka lopulta monesti esiintyi mieskohtaisena häväistyksenä tuota ansiokasta ja arvossa pidettyä vanhusta vastaan. Kun hänen puoluelaisikseen jääneetkään eivät rohjenneet häntä kylliksi tukea tänä vaikeana aikana ja varsinkin kun hän näki, miten monet suomalaisenkin oppikoulun käyneistä kansalaisista, huolimatta Yrjö-Koskisen entisistä ansioista suomalaisen kansanhengen nostajana, yhtyivät vastustajiin, ei jaksanut tuo ennen niin sitkeä mies enää kestää, vaan otti eron.
Neljä vuotta vielä erinomaisella pirteydellä harrastettuaan kirjallisia toimia ja valppaasti seurattuaan isänmaan yhä synkistyvää kohtaloa kuoli hän 13 p. marraskuuta 1903 lähes 73 vuoden ikäisenä. Hänen hautajaisensa muodostuivat suurenmoisimmaksi kunnianosoitukseksi, mitä tähän asti on maassamme omia kansalaisia kohtaan julki tuotu.
Olemme vielä liian lähellä helmikuun manifestin aikaa voidaksemme tasapuolisesti arvostella silloisen kotimaisen hallituksemme menettelyä siinä asiassa. Mitä Yrjö-Koskiseen tulee, on hän varmastikin menetellyt omantuntonsa ja parhaan vakaumuksensa mukaan. Mutta että hän on oikein ja hyvin menetellyt lähes puolen vuosisadan ajan kestävän työpäivänsä kuluessa suomenkielen oikeuksiinsa saattamiseksi, suomalaisen sivistyselämän peruskivien laskijana, suomenkielisen koululaitoksen kehittäjänä, siitä olemme varmaan yksimieliset. Ruotsikiihkoiset hänessä kyllä näkivät ankarimman vastustajansa ja syyttivät häntä kylmästi harkitsevaksi valtiomieheksi, jolla ei ollut mitään herkempiä tunteita. Me suomalaiset emme saata yhtyä tällaiseen arvosteluun, kun me tiedämme, mitä kaikkea hän sai kestää ja kokea ruotsinmielisten taholta suomalaisuuden puolesta taistellessaan. Ei sitä kylmällä järjellä kukaan viitsisi eikä jaksaisi tehdä, vaan juuri tunteen ja syvän rakkauden siinä täytyi olla voiman antajana. Ja se rakkaus kohdistui sorrettuun ja niin henkisessä kuin aineellisessa köyhyydessä elävään Suomen kansaan, etenkin juuri sen vähäväkisten nostamiseen, eikä hyvinvoipaan, etujaan kyllin valvovaan virkamies- ja säätyläisluokkaan.
Eikä ole sitä suomalaista, joka ei osaisi laulaa ja laulaessaan täyttyä samasta isänmaallisesta tunteesta, mitä Yrjö-Koskinen tunsi sepittäessään jo nuoruusvuosinaan laulunsa »Honkaen keskellä», jossa hän sanoo:
Omanpa henkeni kieltä ne puhuu
Honkaen humina ja luonto muu;
Itse en sydäntäni hillitä taida,
Riemusta soikohon raikas suu.