Mon cher Jérôme, je n'ai jamais eu de tes lettres depuis notre séparation, j'ai fini par penser que tu avais vu dans ma conduite quelque chose qui avait dû te déplaire. Je l'ai mandé à Julie qui m'assure du contraire. Peut-être as-tu été gêné dans ta correspondance avec moi. Quelles que soient les raisons de ton silence, je t'écris pour t'engager à le rompre, bien convaincu, comme je le suis, que tu ne peux pas douter de la tendresse de mon amitié pour toi. Je n'ai pas vu ici ton ancienne amie et son fils, je n'ai pas cru devoir aller à leur rencontre dans la position étrange où je me suis trouvé. J'ai pensé que, dans l'adversité, il vaut mieux manquer par trop de susceptibilité que par trop d'abandon. Mande-moi ce que tu aurais désiré que j'eusse fait, ce que tu désires que je fasse. Je pense que l'arrivée de Zénaïde changera ma position si dans l'abandon où Julie va se trouver après le départ de sa fille aînée, elle suit le conseil que je lui donne de se rapprocher de Vienne, je te la recommande, mon cher frère, ainsi qu'à ta femme, dont elle ne cesse de m'écrire tout le bien que l'on en dit. Les lettres à son père ont été répétées dans tous les journaux. Elles sont dans la mémoire de toutes les mères et de toutes les épouses. Je te prie de lui dire combien, en mon particulier, je serais heureux d'apprendre qu'elle trouve quelque bonheur dans l'approbation d'elle-même. Mille caresses à ton enfant, ne doutez jamais de ma tendre amitié.
En 1822, le 2 mars, 10 mars et 24 avril, Joseph écrivit à la reine Julie, de Pointe-Breeze, sa résidence d'été:
Ma chère Julie, je t'ai écrit il y a quelques jours en te témoignant mes inquiétudes sur le silence de Lucien[48] et le vôtre au sujet du mariage de Zénaïde.
Écris à Désirée[49] qu'elle se déshonore à jamais si elle reste plus longtemps à Paris, sa place est auprès de son mari; a-t-elle oublié qu'elle est reine de Suède? C'est aussi ton devoir de lui écrire ce qui est. C'est dur, mais c'est la vérité.
Ma chère Julie, l'occasion étant retardée, j'ai le temps de t'écrire encore deux mots: j'ai reçu une lettre du cardinal du 29 octobre. Il me dit que lui et Maman pensent que le mariage du fils de Louis serait possible si nous voulions que celle de nos filles qui l'épouserait reste avec mon frère Louis.
1o Si Zénaïde épouse Charles, il faut marier Lolotte avec le fils de Louis, par procuration, si on ne peut autrement. Dans ce cas je vous attends bientôt.
2o Si le mariage de Charles manque, il faut que Zénaïde épouse le fils de Louis[50] et que, si cela est indispensable, elle reste avec eux quelque temps; dans ce cas, Lolotte épouserait celui des deux fils de Murat que tu choisirais pour son caractère.
Ma chère amie, le général Lallemand te remettra cette lettre. Je te le recommande. Il a passé ici quelques jours avec le fils de Jérôme[51]. Pauline n'a pas conservé les mêmes dispositions bienveillantes pour lui. Maman me le recommande et compte faire quelque chose pour lui. Je compte toujours sur le mariage du fils de Louis pour Charlotte et sur celui du fils de Lucien pour Zénaïde.
Le prince Charles de Canino et sa femme vinrent, après leur mariage, voir le roi Joseph en Amérique et restèrent quelque temps auprès de lui. La santé délicate de la reine Julie ne lui permit pas de suivre ses enfants. En 1826, des démarches furent faites auprès du roi de France pour le retour en Europe de Joseph, par le général Belliard, auquel le baron de Damas écrivit le 11 août:
Le baron de Damas a l'honneur de prévenir M. le comte Belliard que, d'après la demande qu'il lui a adressée dans sa lettre du 3 de ce mois, il vient, après avoir pris les ordres du roi, d'autoriser le Ministre de Sa Majesté à Washington à comprendre M. et Mme Charles de Canino sur le passeport de M. le comte de Survilliers, qui pourra débarquer à Anvers ou à Ostende.