Cette pompe toutefois, cette magnificence plaisaient peu au redoutable guerrier. En dehors des cérémonies, Charles conserva ses habitudes simples et le grossier costume des soldats francs. Ses compagnons aimaient au contraire à se parer des riches vêtements qu'ils avaient trouvés en abondance dans les villes d'Italie.
Or, un dimanche, après la messe, Charles dit à ses compagnons: «Sans entrer au logis, vêtus comme nous le sommes, partons pour la chasse.» Il tombait une pluie fine et froide. Tout le jour on courut sous la pluie, dans les broussailles, au milieu des bois; les vêtements fins et délicats furent trempés, déchirés. Charles ordonna à ses compagnons de reparaître le lendemain devant lui avec le même costume. Ils se présentèrent tout honteux de leur triste équipage, et Charles plaisanta ses compagnons sur leurs somptueuses guenilles.
Charles n'aurait point mérité le surnom de Grand, s'il n'eût effacé la barbarie du conquérant par la sagesse du législateur; il s'appliqua à faire régner dans son vaste empire l'ordre et la justice. «Une chronique raconte qu'il avait fait suspendre une cloche à la porte de son palais; tous ceux qui voulaient former appel à sa justice, sonnaient cette cloche et le roi, suffisamment averti, leur donnait audience tous les jours. La nuit même, car il avait l'habitude de se lever et de s'habiller plusieurs fois durant la nuit, Charles faisait introduire dans sa chambre des plaideurs de toutes conditions, les priait d'exposer leurs griefs mutuels et se prononçait comme en plein tribunal sur la question en litige.»
Il établit dans les provinces, des comtes, des vicaires, des juges. Il avait l'œil et la main partout. Des envoyés royaux devaient, à chaque saison de l'année, parcourir les provinces et réprimer les excès des officiers. Au printemps et à l'automne, à la veille ou au retour de ces expéditions, l'empereur tenait les assemblées ordinaires chez les Francs; c'est là qu'il publiait ses capitulaires, lois diverses qui réglaient la police de l'État ou l'administration de ses fermes. Charles n'avait d'autres revenus que ceux de ses vastes domaines; aussi le voit-on s'occuper, en même temps que de l'ordre de la société, de la vente de ses bœufs et de ses porcs, des œufs de ses basses-cours, des poissons de ses étangs, des foins de ses prairies, même du superflu des légumes de son jardin. «Un père de famille, a-t-on dit avec raison, pourrait apprendre dans ses lois à gouverner sa maison.»
Ce guerrier redoutable connaissait le prix de la science. Il étudia sa langue maternelle, il apprit le latin; sa rude main, si habituée à manier l'épée, s'exerçait à conduire le stylet sur les tablettes et à tracer d'informes caractères. Il s'entoura de savants qui formaient dans son palais comme une Académie.
Charlemagne avait établi une école dans son palais même pour les enfants de ses leudes et des serviteurs de son palais. Il la visitait souvent. Les enfants les plus pauvres étudiaient avec ardeur. Charles leur dit un jour: «Je vous loue beaucoup, mes enfants, de votre zèle à remplir mes intentions et à rechercher de tous vos moyens votre propre bien. Maintenant, efforcez-vous d'atteindre à la perfection, alors je vous donnerai de riches évêchés, de magnifiques abbayes.» Puis il se tourna vers les enfants des grands, et d'une voix terrible il s'écria: «Quant à vous, fils des principaux de la nation qui, vous reposant sur votre naissance et votre fortune, avez négligé mes ordres et le soin de votre propre gloire dans vos études, si vous ne vous hâtez pas de réparer par une constante application votre négligence passée, vous n'obtiendrez jamais rien de Charles!»
La renommée du puissant empereur s'était répandue au loin. Le monarque le plus puissant de l'Asie, le chef du grand empire arabe, le calife Haroun-al-Raschid (Haroun le Juste), lui envoya plusieurs fois des ambassades et des présents d'une merveilleuse richesse. Parmi ces présents, ce qui étonna le plus les Francs, ce fut un éléphant, animal qu'ils n'avaient jamais vu, et une horloge mécanique avec des figures qui se mettaient en mouvement pour sonner les heures.
Charles mourut en 814 à Aix-la-Chapelle, ville qu'il aimait à cause de ses sources d'eau chaude, et où il avait élevé une grande église. On déposa son corps dans la crypte de cette église et on l'enferma dans un caveau, assis sur un trône de marbre, la couronne d'or sur la tête, un sceptre d'or entre ses mains.