Mathieu se soumit et n'eut d'autre ressource que de suivre son exemple et de mener une vie tout à fait ascétique. Il se livra aux bonnes œuvres, aux mortifications de la chair et s'exalta dans les idées religieuses, repoussé qu'il était de tous les liens de famille. Nous l'avons vu pendant vingt ans tenant cette conduite et traité par sa femme avec un dédain poussé à un tel point que, par exemple, lorsqu'elle dînait hors de chez elle, elle ne se donnait pas la peine de l'en prévenir, et il rentrait pour se mettre à table sans trouver le repas qu'elle défendait à ses gens d'apprêter.
Il n'avait aucune fortune personnelle et, même lorsque la mort du duc de Luynes rendit madame Mathieu immensément riche, elle ne lui donna pas une obole. Je l'ai vu voyager sur l'extérieur des diligences parce qu'il n'avait pas de quoi payer une place dans l'intérieur. Elle joignait la désobligeance des formes aux duretés du fond, et il fallait l'inépuisable patience de Mathieu pour supporter une pareille conduite.
Il était d'une charmante et noble figure, aimable, spirituel et fait pour plaire. Il partageait son cœur entre Dieu et l'amitié, et portait ces sentiments jusqu'à l'exaltation. La Restauration y ajouta l'ambition, et cette ambition dévote qui, en sûreté de conscience, se prête même aux plus vilaines intrigues, assurée qu'elle est de ne prétendre au pouvoir que pour la plus grande gloire de Dieu.
Mathieu, que le besoin d'expier les erreurs de sa jeunesse avait jeté dans les mains des prêtres, était dès longtemps disciple de la petite Église; il devint facilement membre de la Congrégation; elle le poussa pour s'en faire un appui.
Madame la duchesse d'Angoulême le traita avec une grande distinction. Monsieur de Damas son chevalier d'honneur, étant mort en 1814, Mathieu le remplaça. Il eut beaucoup de crédit sur la princesse aussi bien que sur Monsieur.
Cette faveur de Cour commença à rapprocher madame Mathieu de son mari; elle ne lui refusa plus à dîner et quelquefois lui prêta ses chevaux.
Le duc Adrien de Laval, le seul des quatre frères de la branche aînée qui eût eu des enfants, perdit un fils unique de dix-neuf ans, et la branche de Montmorency Laval se trouva sans héritier. L'âge de la duchesse de Laval ne laissait pas l'espoir de le remplacer; le conseil de famille eut recours au ménage Mathieu.
J'ai vu la correspondance conjugale qui s'établit à ce sujet, et je suis forcée de convenir que les lettres de Mathieu sont si tendres d'affections si gracieuses de galanterie, si chastes d'expressions, que, persuadées qu'elles ne m'inspireraient que du dégoût ou de la moquerie, je les ai lues avec un véritable intérêt. Elles persuadèrent madame Mathieu. Les époux expédièrent un courrier à Rome pour être relevés des vœux qui les séparaient, et son retour fut attendu avec une impatience un peu exagérée.
Au moment même, madame Mathieu fut prise d'une passion immodérée pour son mari. Elle n'existait pas hors de sa présence; c'était un véritable roman, et la figure de cette héroïne de quarante-cinq ans, laide, mal tournée et surtout vulgaire à l'excès achevait le ridicule de cette bouffonne lune de miel que Mathieu supportait avec sa résignation accoutumée.
On a dit que les empressements de madame Mathieu avaient abrégé la vie de son mari. Quoi qu'il en soit, elle a été pendant quelques mois parfaitement heureuse de son amour, de l'importance de sa situation, du ministère et du titre de duchesse. Le chagrin de quitter l'hôtel des affaires étrangères et ses beaux salons fut compensé, peu après, par la nomination à la place de gouverneur de monsieur le duc de Bordeaux et l'espoir d'habiter les Tuileries.