In Prag wußte man oft monatelang nicht, ob Rudolf noch lebe. Das Volk fürchtete, die Günstlinge verheimlichten seinen Tod, um seine Schätze an sich zu bringen. Einmal brach deshalb ein Aufstand aus, und da zeigte sich der Kaiser nach langen Bitten am Fenster des Hradschins, um den andrängenden Volkshaufen zu beruhigen. In dumpfem Brüten, und ohne einen Laut von sich zu geben, saß er oft viele Stunden hindurch und schaute den Malern und Uhrmachern zu, die in seinem Zimmer arbeiteten. Wurde er dabei angesprochen, so packte ihn der Jähzorn, und er warf, was er gerade erreichen konnte, ein Gefäß oder ein Werkzeug, dem Störer mit Schimpfworten an den Kopf. Bisweilen auch fuhr er aus seinem wehmütig stieren Sinnen ohne Grund empor und zerschlug alles um sich her.
Personen, die in Geschäften bei Hof erschienen, fanden es ungemein schwer, zum Kaiser zu gelangen. Entweder war er im Zimmer bei den Löwen, Leoparden und Adlern, die er selbst fütterte, oder bei Tycho de Brahe auf der Sternwarte, oder bei Dee und Bragadino, beschäftigt mit Schmelztiegeln, Wunderspiegeln, Traumtafeln und Geistererscheinungen, oder in den Gärten des Hradschins, wo Bäume, Gesträuche und Blumen aus fernen Weltgegenden blühten und Zaubergrotten und Wasserwerke sich befanden, aus denen Musik ertönte. Wer ihn sprechen wollte, mußte sich als Stallknecht verkleiden und ihn im Marstall erwarten. Aber auch hier war es gefährlich, sich dem seltsamen und gewalttätigen Herrn zu nähern. Eva, die Tochter des in Ungnade gefallenen Oberst-Burggrafen Lobkowitz, hatte sich durch Geld eine solche Audienz erkauft, um für ihren gefangenen Vater Freiheit und Leben zu erbitten. Ein ehrlicher Stallknecht warnte sie in letzter Stunde, indem er ihr eröffnete, daß sie zu schön sei, um solches zu wagen, der Kaiser scheue nicht vor Gewalt zurück. Sie verstand ihn und floh.
Rudolf ahnte nichts von der Not seiner Völker. Der sturmbewegten Zeit mußte dieser kranke Träumer auf dem Thron alles schuldig bleiben. Die Türkengefahr und der Aufstand des Siebenbürgerfürsten vereinigte sämtliche Erzherzoge des habsburgischen Hauses zu dem Beschluß, den Kaiser abzusetzen, und der Urheber dieser Maßregel war Clesel, der Bischof von Wien und Neustadt. Im Juni 1608 mußte Rudolf an seinen Bruder Mathias die Krone Ungarns und die Lande Österreich und Mähren gegen ein Jahrgeld gänzlich abtreten, und trotz seines leidenschaftlichen Widerstandes wurde er gezwungen, den berühmten Majestätsbrief auszustellen, durch den er den böhmischen Herren unbedingte Glaubensfreiheit sicherte. Nur das tiefe Zerwürfnis mit Mathias drängte ihm den Majestätsbrief ab, die Scharteke, wie Kaiser Ferdinand später die Urkunde verächtlich betitelte, als er sie nach der Schlacht am Weißen Berg verbrannte. Aber eines glaubte sich Rudolf dadurch gesichert zu haben: als böhmische Majestät in dem teuren Prag ruhig sterben zu können. Es war ein Irrtum. Er wurde in seinem Schloß so eng bewacht, daß ihm nicht einmal verstattet war, in den Garten zu gehen und Luft zu schöpfen. Einmal, als der römische Kaiser aus dem Tor treten wollte, schlug die Wache das Gewehr auf ihn an; da kehrte Rudolf in seine Gemächer zurück, öffnete das Fenster und rief mit erhobener Hand: »Du undankbares Prag! durch mich bist du erhöht worden, und nun stößt du deinen Wohltäter von dir. Die Rache Gottes soll dich verfolgen und der Fluch über dich und ganz Böhmenland kommen.«
Die Kurfürsten von Mainz und Sachsen verwandten sich für den Kaiser, indem sie betonten, daß er doch auch noch ein Mitglied des kurfürstlichen Kollegiums sei. Darauf entgegneten die Stände Böhmens höhnisch den Abgesandten: »Wir wollen euch den römischen Kaiser samt dem Kurfürsten von Böhmen zugleich in einem Sack zuschicken.«
In dieser Bedrängnis war es, wo Mathias seinem Bruder auch die böhmische Krone raubte. Erbittert darüber, daß die Böhmen Mathias gehuldigt hatten, schleuderte Rudolf, als er die Abdankungsurkunde unterzeichnet hatte, im Zorn seinen Hut auf die Erde, zerbiß die Feder und warf sie dann auf das Diplom, auf dem man noch heutigentags den Tintenfleck sieht. Ungeachtet seiner hoffnungslosen Lage glaubte der wunderliche Mann durch die Stiftung eines Ordens von Friedensrittern alles wieder ins Geleise bringen zu können, und Tag und Nacht arbeitete er an den Ordensketten.
Von seinen sämtlichen Kronen besaß er jetzt nur noch die römische Kaiserkrone. Aber schon lange verachteten ihn auch die deutschen Fürsten und schickten endlich eine Gesandtschaft, um ihn zu nötigen, zur Wahl eines anderen Kaisers seine Zustimmung zu geben. Er empfing die Gesandten unter einem Thronhimmel stehend; die linke Hand hatte er auf einen Tisch gestützt. Als sie ihr Verlangen vorbrachten, wurde ihm der Kopf heiß, seine Knie zitterten, und er mußte sich auf einen Sessel niederlassen. Später sagte er zum Herzog von Braunschweig, seinem vertrautesten Freund: »Die mir in meinem Ungemach keine Hilfe geleistet und zu meinem Dienst nicht einmal ein Roß haben satteln lassen, haben mir jetzt eine Art von Leichenpredigt gehalten. Ohne Zweifel sind sie mit unserm Herrgott in geheimem Rat gesessen und wissen vielleicht von daher, daß ich noch in diesem Jahr sterben werde, weil sie gar so stark auf einen Nachfolger im römischen Reich dringen.«
Erniedrigung, Verlust der Würden und alle damit verbundenen Leiden hatte Rudolf ertragen; der Tod seines schönen treuen alten Löwen und zweier Adler, die er täglich mit eigener Hand gefüttert hatte, brach ihm das Herz.
Sein Leichnam wurde in eine mit rotem Damast ausgeschlagene Bahre gelegt, über der sich ein gläserner Deckel befand; auf der Brust trug er ein Kreuz, an der linken Seite die Wehr und an der rechten das goldene Vlies. Rudolfs Minister wurden verhaftet und zur Folter verurteilt; sein Schatzmeister Roszky, den er vor andern geliebt, erhängte sich im Gefängnis mit der Schnur, an welcher er den Kammerschlüssel getragen. Man ließ daher seinen Leib vom Nachrichter vierteilen und auf dem Weißen Berg bestatten. Allein es hieß, daß er sich an derselben Stelle oftmals auf einem Bock oder Hirsch reitend zeigte, und so wurde der Körper wieder ausgegraben, wurde verbrannt und die Asche in die Moldau geworfen. Als dies geschehen war, verschwand plötzlich der Schloßhauptmann, und es entstand der Verdacht, daß er den Roszky im Gefängnis ermordet, ihn aufgehängt und ihm das aurum purificatum, das er aus des Kaisers Schatz zurückbehalten, geraubt habe.
Der Kaiser Rudolf hinterließ von seinen vielen Geliebten wahrscheinlich viele Kinder, von denen vier Söhne bekannt geworden sind, die sein wildes Blut erbten. Don Carlos d’Austria diente dem Kaiser Ferdinand im Dreißigjährigen Krieg, wurde aber in einer Vorstadt von Wien bei einem Auflauf um eine öffentliche Dirne, in den er sich mutwillig gemischt hatte, unerkannt erschlagen. Zwei andere führten ein anonymes Dasein, der vierte jedoch, Don Cesare d’Austria, hatte an einem Edelfräulein Gewalt geübt und sie dann aus dem Weg geräumt. Der Kaiser, sein Vater, ließ ihm in einem warmen Bade die Adern öffnen.