Après avoir contribué à la chute du trône, dégoûté des Jacobins, il voulut tenter de le rétablir, lorsqu'il y avait peu d'espoir d'y pouvoir réussir. Sa vanité et son indiscrétion firent échouer tous ses projets, et il fut, à son tour, forcé d'émigrer et d'imiter la conduite de ceux qu'il avait si durement blâmés dans l'exercice de son ministère.
Clavière, ami de Brissot et de Grégoire, auquel il s'était associé pour le soulèvement des colonies, voulut singer M. Necker, dont il n'avait ni les qualités ni l'intégrité. Ambitieux et agitateur par caractère, il écrivit et agita le peuple pour faire parler de lui et arriver au ministère.
La Coste était un jacobin insignifiant, qui suivit la route que lui tracèrent ses confrères. Cette nomination déconcerta les Jacobins, qui ne purent s'empêcher de dire en parlant du Roi: «Si ce diable d'homme nous cède sur tout, quel prétexte donner à sa destitution?» Sa condescendance ne les empêcha pas de contribuer à entraver les opérations des diverses administrations, de tonner ensuite contre ces nouveaux ministres et de les accuser, et le Roi par contre-coup, de ne pas savoir arrêter les désordres dont eux-mêmes étaient les auteurs.
Les ministres vinrent présenter leurs hommages à l'Assemblée en entrant au ministère, se parant de leurs vertus civiques et lui promettant la plus entière obéissance. Ils n'oublièrent pas l'éloge de ses glorieux travaux, qu'ils promirent de seconder par leur empressement à faire exécuter ses décrets. Les ministres du Roi, ajouta M. Roland, ne sont que les ministres de la Constitution, par laquelle le Roi règne et les ministres existent.
Cayer de Gerville, avant de donner sa démission, se crut obligé de présenter à l'Assemblée un aperçu de la situation de la France. Il en attribua les malheurs aux insouciants, aux égoïstes et à la corruption des mœurs. Il parla de la nécessité d'une régénération où l'on ne ferait point entrer la religion, qu'il regardait comme inutile, et il s'emporta contre les prêtres sermentés et insermentés, soupirant après le jour où les rois et les peuples ne s'occuperaient plus de religion. Tout en approuvant la formation des clubs, qui avaient été nécessaires à l'établissement de la Révolution, il leur reprocha leur conduite actuelle et nommément le mépris qu'ils témoignaient pour une constitution jurée par tous les Français.
M. de Vaublanc, effrayé des progrès de l'anarchie et revenu des opinions qu'il avait professées à l'ouverture de l'Assemblée, reprocha à celle-ci d'avoir favorisé trop longtemps l'insubordination du peuple. Il appuya fortement sur l'impossibilité de faire cesser les crimes et les malheurs qui désolaient la France, si l'Assemblée ne s'occupait de faire de bonnes lois clairement exprimées, si elle ne faisait pas respecter l'autorité du Roi, et si elle se permettait de tracasser les ministres dans l'exercice de leurs fonctions, au lieu de se borner à les punir s'ils se trouvaient en contravention avec la loi. Il proposa ensuite l'établissement d'un comité qui tiendrait registre de toutes les dénonciations portées contre eux, lesquelles seraient mises toutes à la fois sous les yeux de l'Assemblée. On n'eut aucun égard à ces représentations. Elles étaient trop éloignées des vues de la majorité pour être non-seulement adoptées, mais même écoutées paisiblement.
Bien plus, un orateur du faubourg Saint-Antoine vint à l'Assemblée accuser le Roi de tous les malheurs de la France, et l'assurer qu'elle pouvait compter sur le secours des piques. «Il vaut mieux, ajouta-t-il, servir la nation que les rois, qui passent, eux, leurs ministres et leur liste civile, tandis que les droits de l'homme, la souveraineté nationale et les piques ne passeront jamais.» L'Assemblée ne rougit pas d'accorder à l'orateur les honneurs de la séance.
Une pareille conduite ne permit pas d'être étonné de voir Bassal-Cavé, constitutionnel de Versailles et jacobin outré, s'unir à Thurcoi et autres scélérats de son parti, pour solliciter une amnistie en faveur des auteurs des massacres de la glacière d'Avignon; et La Source prétendit qu'elle ne pouvait être refusée, puisque l'Assemblée précédente en avait accordé une aux aristocrates, dans laquelle l'infâme Bouillé avait été compris. La majorité, éprouvant une espèce de honte de la prononcer expressément en faveur des scélérats qui en étaient l'objet, décréta, sans les nommer, une amnistie générale pour tous les crimes relatifs à la Révolution commis dans les deux comtats jusqu'au 8 octobre 1791. Plusieurs représentants, consternés de cette effroyable séance, ne purent s'empêcher de témoigner l'horreur que leur inspirait l'impunité accordée à de pareils crimes, et la honte qui en rejaillirait sur l'Assemblée. Mais ils ne furent point écoutés, et le décret fut proclamé tel qu'il avait été proposé. Un grand nombre de députés gémissaient intérieurement des décrets que rendait journellement l'Assemblée; mais contenus par la terreur, ils cherchaient même à capter sa bienveillance par des propositions qu'ils savaient devoir lui être agréables.
M. Pastoret, membre de l'instruction publique, proposa, par mesure d'économie, la suppression des professeurs, blâmant la bêtise de l'ancienne éducation, se moquant des quatre facultés, des cérémonies religieuses qui s'y pratiquaient, et promettant des merveilles de la nouvelle éducation, qui, fondée sur la philosophie, procurerait la régénération complète du peuple français. La suppression des professeurs fut décrétée. Elle fut suivie, peu après, d'un autre décret, portant celle de tous les Ordres religieux, de toutes les confréries, des congrégations, même de celle des Sœurs de la Charité, avec la défense absolue de porter aucun costume ecclésiastique hors de l'intérieur des temples.
On ne peut se faire une idée de l'indécence de cette séance: Torné, Fauchet, Gay, Vernon et autres évêques constitutionnels jetèrent en pleine Assemblée leur croix et leur calotte, accompagnant cette action des discours les plus impies et les plus déplacés, ce qui leur valut de grands applaudissements. Le vendredi saint fut choisi pour cette fête aussi scandaleuse que dégoûtante; et, pour que rien n'y manquât, des prêtres mariés vinrent à la barre avec leurs enfants, dont ils firent hommage à l'Assemblée.