Roomassa sitä vastoin oli vanhan tasavallan puolittain hälvennyt muisto nyt, niinkuin ennen Ottojen aikana, suuri voima, joka voi saattaa mielet kuohuksiin. Munkki Arnold Brescialainen haaveksi tuota hämärää muinaisajan kuvaa; innostuttavan kaunopuheisesti kuvaili hän kansanjoukoille vanhaa Roomaa, mitenkä se laillisen vapauden ja tasavaltaisten hyveiden voimasta mahtavana kukisti maailman; hän vertasi siihen myöhäisempää Roomaa, jossa paavi kietoi omattunnot kahleihin ja lain voima oli lakastunut. Siitä kiihtyi kapina, jonka kautta paavi karkoitettiin Roomasta ja vanha tasavalta jälleen uudistettiin, mikäli oli mahdollista. Rohkea henki alkoi kehittyä Pohjois-Italian kaupungeissa, sillä vilkas kauppa, suuri rikkaus ja investituurariidan aikana saavutettu itsehallitus oli opettanut ne pitämään vapautta suuressa arvossa. Pitämään yllä Rooman keisarikuntaa marssi Fredrik kohta hallitukseen astuttuansa "Rooman tasavaltaa" vastaan.
Ensin näytti Fredrik valtaansa Pohjois-Italian kaupungeille sekä otti Paviassa vastaan Lombardian kruunun. Sieltä hän marssi edelleen Roomaa vastaan. Paavin istuimelle oli juuri noussut Hadrianus IV:nen nimellä kardinaali Nikolaus Albanolainen, joka äsken oli Ruotsissa pitänyt Linköpingin kokouksen ja Norjaan asettanut arkkipiispan. Hänelle Fredrik antoi kiinni otattamansa Arnold Brescialaisen. Tämä onneton haaveksija sidottiin jo samana yönä polttoroviolle, joka aamun koitteessa sytytettiin. Paavi saapui Fredrikin leiriin ja vaati kopeasti Saksan hallitsijaa pitämään jalustinta pyhän isän laskeutuessa ratsunsa seljästä. Ruhtinasten neuvosta Fredrik tuohon taipuikin, mutta lausui: "Enpä suinkaan voi olla muuta kuin kömpelö tässä, sillä tallirenkinä en ole koskaan ollut."
Fredrikin lähestyessä Roomaa laittoivat roomalaiset hänen luoksensa lähettiläitä, jotka tasavallan puolesta lupasivat hänelle keisarin arvon, jos hän suostui maksamaan viisituhatta naulaa hopeata ja vannoi suojelevansa kaupungin uutta hallitusmuotoa. Mutta tylyllä vastauksella keisari ilmasi heille, että vanhat ajat olivat jo ammoin menneet. "En minä ole tullut", sanoi hän, "ottamaan mitään vastaan teiltä, vaan pelastamaan teitä sisällisistä ja ulkonaisista riidoista." Peljästyneinä veivät lähettiläät tämän äreän vastauksen kaupunkiinsa. Seuraavana aamuna Fredrik paavin seurassa juhlallisesti marssi kaupunkiin sekä otti sotajoukkonsa läsnä ollessa vastaan keisarin kruunun.
Rooman keisari koetti kaikin tavoin panna uudestaan voimaan Rooman lakia, joka oli kauan ollut unhotettuna länsimaissa. Amalfista oli 20 vuotta ennen Fredrikin kruunausta löydetty Justinianuksen lakikokoelman kopio. Rooman lakia aljettiin nyt selittää ja lukea Bolognassa, jonka yliopisto Fredrikiltä sai tärkeimmät oikeutensa ja jonka lakimiehet kohtakin vaikuttivat hyvin suuresti koko yhteiskunnalliseen kehitykseen.
Lombardian kaupungeista oli varsinkin Milano kuuluisa kopeudestaan ja uhkamielisestä vapaudentunnostaan. Fredrik kuitenkin pakotti kaupungin antautumaan keisarin yksinvallan alaisuuteen: keisarin valtaistuimen eteen täytyi kaupungin pappien, ylimysten ja konsulein astua paljain jaloin ja miekka niskaan sidottuna tunnustamaan kuuliaisuuttansa ja rukoilemaan armoa. Sitte pidettiin loistavat valtiopäivät Ronkalin kedolla lähellä Piacenzaa. Bolognan lainoppineet ja kaupunkein valtuusmiehet olivat sinne kutsutut. Siellä säädettiin keisarillisen itsevaltiuden perusteet, kaupungeilta riistettiin oikeus nimittää hallitusmiehensä ja keisarille määrättiin vero maksettavaksi.
Kun paavi Hadrianus IV heti antautui tyytymättömäin kaupunkien puolelle, saivat he siitä rohkeutta julkiseen vastarintaan. Ensin keisari ryhtyi ahdistamaan Krema-kaupunkia, joka kesti seitsemän kuukautta ankaraa piiritystä. Kiukkuisesti taisteltiin molemmin puolin: saksalaiset heittivät palloa surmattujen kaupunkilaisten irti hakatuilla päillä ja kaupunkilaiset repivät vangittuja saksalaisia paloiksi muureilla. Piiritystorniin, jota kuljetettiin yhä lähemmäksi kaupunkia, sidotti keisari koko joukon kremalaisten lapsia, jotka olivat joutuneet hänen valtaansa, siten pelottaakseen piiritettyjä vahingoittamasta tornia. Nähdessään lapsensa porvarit ensin valittivat ääneensä, vaan sitte ylistivät lapsia onnellisiksi, että jo niin nuorina saivat uhrata elämänsä isänmaan vapauden eteen, sekä käänsivät enempää vitkastelematta heittokoneensa tornia kohti. Krema viimein valloitettiin; asujamet saivat vapaasti lähteä pois, mutta kaupunki ryöstettiin ja hävitettiin perin pohjin.
Kreman piirityksen aikana kuoli Hadrianus IV. Häntä seurasi keisariuden jäykkä vihollinen Aleksander III. Uusi paavi heti julisti pannaan keisarin ja kaikki hänen kannattajansa sekä rohkasi Milanoa sitkeään vastarintaan. Sen uhkamielisen kaupungin luo johti nyt Fredrik suuren sotajoukon ja vannoen eitti panevansa ennen keisarinkruunua päähänsä, kuin kaupunki oli hajoitettu maan tasalle. Tämä piiritys kesti koko kaksi vuotta ja näytti hirvittävillä esimerkeillä, miten viha villistyttää. Viideltä ylhäiseltä vangilta, jotka piiritettyjen ensimmäisessä uloshyökkäyksessä saatiin kiinni puhkasivat saksalaiset pois silmät ja kuudennelta leikkasivat nenän, mutta jättivät hänelle silmät, että osaisi johtaa toiset takaisin kotiin. Näljänhädän pakosta täytyi Milanon porvarien viimein antautua. (1162). Kaupungin konsulit ja 20 etevintä ylimystä, kaikilla paljaat miekat kaulasta riippumassa, astuivat saksalaisten leiriin antamaan voittajalle kaupunkia asujamineen ja tavaroineen. Parin päivän kuluttua tulivat taas konsulit ja heidän kanssansa 300 jalointa ritaria kantaen kaupungin porttien avaimia ja sotalippuja. Seuraavana päivänä tulivat vielä kaupungin asujamet kaikki paljain jaloin, nuora kaulassa ja tuhkaa pään päällä. He astuivat ääneti keisarin ohitse, joka istui korkealla valtaistuimella, ja laskivat kaupungin päälipun hänen jalkainsa juureen. Kansa lankesi polvilleen ja konsulit sen nimessä rukoilivat armoa kaupungille. "Te olette", vastasi keisari, "lain mukaan kaikki kuolemaan vikapäät; te saatte pitää henkenne, mutta minä teen teidät kykenemättömiksi harjoittamaan uusia rikoksia." Milano sitte hävitettiin perin pohjin, ainoastaan kirkot säästettiin; revittyjen rakennusten soraläjät vielä auralla tasoitettiin ja asujamet jaettiin neljään eri paikkaan. Kiitosjuhlassa, joka sitte pidettiin Paviassa, pani Fredrik jälleen kruunun päähänsä.
Vieraat hallitsijat tunnustivat korkeimmaksi lääniherrakseen suurivaltaisen keisarin. Böömin herttua, hänen uskollinen vasallinsa, otti häneltä vastaan kuninkaan arvon. Tanskan kuningas Valdemar Suuri kävi piispa Absalonin seurassa keisarin luona ja tunnusti hänet silloin vendiläisten maidensa suojelusherraksi. Muinaista Burgundin kuningaskuntaa, joka oli hajonnut eri osiin, koetti Fredrik liittää Saksaan. Niin sanotussa "Burgundin vapaakreivikunnassa" (Franche-Comtéssa) oli ilmestynyt eräs vallan anastaja, joka piti veljensä tytärtä kaunista Beatrix-prinsessaa vankina pimeässä torninkomerossa; mutta keisari saapui sinne pelastavana ritarina, vapautti vangin ja otti hänet puolisoksensa sekä yhdisti valtakuntaansa koko vapaakreivikunnan.
Lombardian kaupungit ärtyneinä saksalaisten virkamiesten kovuudesta alkoivat taas liittäytyä yhteen. Keisarin kannattajia vastaan, joita sanottiin ghibellineiksi (Waiblingenin mukaan, joka oli hohenstaufien vanhimpia pääpaikkoja Shwabissa), nousivat kaikkialla vapauden ystävät, niin sanotut guelfit (hohenstaufien saksalaisten vastustajain Welfien mukaan). Paavi Aleksander III auttoi tätä liikettä kaikin voimin. Mutta Fredrik marssi suuren sotavoiman kanssa suoraa päätä Roomaan ja valloitti kaupungin rynnäköllä. Aleksanderin täytyi paeta ja keisari toi Roomaan uuden nimittämänsä paavin, joka kruunasi keisarinnan. Mutta epäterveellisen ilman vaikutuksesta syntyi kulkutauti, joka riisti pois paraimman osan sotaväestä. Valepuvussa ja ainoastaan vähäisen seurueen saattamana täytyi Fredrikin palata Alppein ylitse Saksanmaahan, jossa hän vietti kuusi vuotta, vahvasti varustellen uutta sotaretkeä Italiaan.
Kun hän näiden vuosien kuluttua jälleen saapui Italiaan, käytiin sotaa kohta jälleen rakennetun Milanon ympärillä kauan ilman ratkasevaa voittoa, ja kulkutaudit tälläkin kertaa harventelivat saksalaisten rivejä. Silloin kohtasi Fredrikkiä kova isku; hänen mahtavin vasallinsa Henrik Leijona eitti enää kauemmin olla osallisena tässä sodassa. Taivuttaakseen häntä jäämään heittäytyi keisarivanhus alas hänen jalkainsa juureen ja syleili hänen polviansa; mutta Henrik pysyi taipumatta. Silloin lähestyi keisarinna Beatrix arvokkaasti puolisoansa ja sanoi: "Nouskaa ylös, rakas herra; Jumala teitä auttaa ja sitte saatatte muistaa tämän päivän ja tämän kopeuden." Keisari nousi, mutta Henrik heitti kylmät jäähyväset ja palasi väkinensä Saksiin.