Dieser ließ sich nichts weniger träumen als das. Er war auf einer Reise nach Augsburg begriffen und bereits nach der Lombardei gekommen. Als er die Ankunft des Kaisers vernahm, floh er eiligst nach dem festen Schloss Canossa, welches seiner Buhlerin, der reichen Markgräfin Mathilde von Toskana, gehörte.
Hier erschien der deutsche Kaiser. In einem wollenen Büßerhemd, bloßen
Haupts, barfuß stand er in dem Raum vor der inneren Ringmauer des
Schlosses, - drei Tage und drei Nächte lang, mitten im Januar, zitternd
vor Frost und matt vor Hunger und Durst!
Aus den Fenstern des Schlosses schaute Gregor an der Seite seiner Buhlerin auf seinen gedemütigten Feind herab und hätte ihn gern so sterben sehen. Des Papstes unmenschliche Härte brachte alle Hausgenossen zum Murren, und endlich gab er den Bitten der Markgräfin nach, die zwar Heinrichs Feindin, aber barmherziger war, und führte den Kaiser an den Altar. Hier durchbrach Gregor eine Hostie. "Bin ich der Verbrechen schuldig, deren du mich in Worms bezichtigt hast", redete er ihn an, "so mag Gott der Herr meine Unschuld bewähren oder mich durch einen plötzlichen Tod strafen!" - Dann nahm er die Hälfte der Hostie. Gregor war nicht abergläubisch und nicht nervenschwach. Er blieb am Leben.
Der Bann wurde nun von Heinrich genommen, aber unter den entehrendsten
Bedingungen. "Wirst du dich", sagte Gregor, "auf dem zusammenzurufenden
Reichstage rechtfertigen und die Krone wieder erhalten, so sollst du mir
gehorsam und untertänig sein."
Nach Deutschland zurückgekehrt, richtete der von Kummer aller Art betroffene Kaiser sein Auge auf den von ihm selbst erbauten Dom zu Speyer und sagte zu seinem alten Freund, dem Bischof: "Siehe, ich habe Reich und Hoffnung verloren, gib mir eine Pfründe, ich kann lesen und singen." Der Bischof antwortete: "Bei der Mutter Gottes! das tue ich nicht." -
Die lombardischen Städte und Fürsten waren empört über die Demütigung Heinrichs und sagten ihm unverhohlen ihre Meinung. Da ermannte sich der niedergedrückte Kaiser und stellte sich an die Spitze der bald um ihn versammelten Armee. Die pflicht- und ehrvergessenen deutschen Fürsten aber erwählten in dem Herzog Rudolph von Schwaben einen neuen Kaiser.
Gregor verhielt sich ruhig, solange nichts Entscheidendes geschehen war; als aber Heinrich in einer Schlacht geschlagen wurde, sandte er dem Gegenkaiser eine Krone zu mit der stolzen Inschrift: Der Fels (der Kirche) gab Petrus, Petrus gab Rudolph die Krone. Über Heinrich wurde aufs Neue der grässliche Bannfluch ausgesprochen.
Der Kaiser hatte jedoch seine Mannheit wiedergefunden. Eine Synode setzte Gregor abermals ab, und Guibert, Erzbischof von Ravenna, wurde als Clemens III. zum Papst erwählt. Gregor versuchte seine alten Künste. Er gab den Rebellen die Versicherung, dass noch in demselben Jahr vor dem Petersfest ein falscher König sterben werde. Um seine Prophezeiung an Heinrich zu erfüllen, sandte er einige Meuchelmörder aus; aber des Papstes böse Absicht wurde zum Segen für Heinrich. Am 15. Juni 1080 schlug er Rudolph, und dieser starb infolge einer in der Schlacht erhaltenen Wunde.
Nun rückte Heinrich gegen Rom, vernichtete das Heer der Papsthure Mathilde, eroberte die Stadt und belagerte den rasenden Hildebrand in der Engelsburg. Die von diesem zur Hilfe gerufenen Normannen, welche damals in Unteritalien herrschten, befreiten ihn zwar; aber Gregor musste vor der Wut der Römer fliehen. Er ging nach Salerno zu den Normannen und endete hier sein fluchbeladenes Leben.
Gregor war der erste wirkliche Papst. Er befahl auf einer Synode, dass von nun an nur einer Papst heißen solle in der Christenheit, denn bisher nannten sich alle Bischöfe so. Ein Schriftsteller aus jener Zeit sagt schon: Das Wort Papst in der Mehrzahl ist ebenso gotteslästerlich als den Namen Gottes in der Mehrzahl zu gebrauchen.