Sa réputation s'étendit jusqu'en Angleterre et en Allemagne, d'où l'on venait en foule pour l'écouter. Mais au milieu de sa gloire, il apprend que dans Paris habite une jeune beauté qui, du fond de sa retraite modeste, partage avec lui l'admiration publique; on la disait la plus belle des Françaises; mais on vantait surtout son esprit et ses connaissances. On la nommait Héloïse. Son oncle, le chanoine Fulbert la retenait près de lui, dans le cloître de la cathédrale, l'éloignant avec un soin jaloux, des fêtes et des relations du monde dont elle eut été l'ornement.
Abailard, sur les simples récits qu'il en entendait, conçut pour Héloïse qu'il ne connaissait pas, une passion pleine d'enthousiasme. Par une merveilleuse sympathie, celle-ci prévenue par la réputation du jeune docteur, ne voyait que lui, sur la terre, digne de plaire et d'être aimé. Elle se le représentait sous les formes les plus séduisantes; heureusement qu'Abailard avait un extérieur propre à réaliser les illusions d'Héloïse. Les auteurs de sa vie s'accordent à dire qu'il était le plus bel homme de son temps. Héloïse et Abailard se virent enfin. Bientôt l'oncle Fulbert eut l'imprudence de seconder les mutuels désirs des deux amans au delà même de leur espoir, en souhaitant que sa nièce reçut des leçons d'Abailard. Pour voir son élève avec plus de liberté, le maître prétexta que ses travaux et ses occupations le retenaient tout le jour loin d'elle, et qu'il ne pouvait lui consacrer que les heures de la soirée. Au moyen de cet arrangement, ces visites nocturnes n'avaient rien de surprenant, et il trouvait ainsi l'occasion d'entretenir Héloïse sans témoins, dans ce cloître paisible. Animé par la présence de sa maîtresse, Abailard se surpassait lui-même dans ses leçons mystérieuses et enivrait Héloïse de savoir, d'éloquence et d'amour. C'est dans les lettres originales de ces deux amans, écrites en latin, qu'il faut lire les détails pleins de charme et de passion de ces délicieuses soirées, où l'amour finit par tenir beaucoup plus de place que l'étude.
Abailard composa un poème sur la rose, emblême ingénieux et délicat, sous lequel il célébrait Héloïse. Ces vers furent bientôt appris de tous les amans de la capitale, qui les répétaient tous les soirs près des puits d'amour.
Cependant, grâce à ce poème et à quelques chansons érotiques que composait Abailard, les amours du cloître Notre-Dame n'étaient pas restées secrètes. Héloïse, aveuglée par son imprudente passion, loin de s'alarmer, était fière de voir toutes les dames de la ville et de la cour envier, comme elle le dit elle-même, et sa joie et son lit. Tout Paris s'entretenait ouvertement de l'union des deux amans; Fulbert fut le dernier à la connaître, mais son courroux n'en fut que plus terrible. Abailard redoutant les effets de sa fureur pour son amante adorée, la conduisit dans la Bretagne, où elle mit au jour un fils que sa grande beauté fit nommer Astralable, c'est-à-dire astre brillant.
Cependant Abailard tenta de fléchir le chanoine Fulbert; fort de son amour et se fiant aussi sur le pouvoir de son éloquence, il osa affronter la colère de ce vieillard vindicatif; il lui demanda la main de sa nièce et pupille; cette demande parut adoucir le chanoine, mais l'étonnement d'Abailard fut extrême quand Héloïse, se refusant à ce mariage, lui tint ce discours extraordinaire, comme l'atteste la correspondance de nos deux amans. «Vous espérez vainement de fléchir l'irascible Fulbert, en me faisant le sacrifice de votre liberté. Il est inexorable et dur; sa réconciliation apparente n'est qu'un piége artificieux où sa vengeance vous attend. Mais dut cette réconciliation être sincère, ne croyez pas que j'achète mon pardon et mon repos au prix de votre gloire qui m'est plus chère que la vie. Vous le savez, mon ami, la pauvreté, l'exil, me paraitraient plus doux avec vous, qu'une couronne avec un autre..... Si je refuse l'engagement que vous vous résignez à former, ce n'est donc pas dans la crainte de m'unir avec vous..... Peut-être croyez-vous concilier vos importans travaux avec les soins obscurs d'un ménage; détrompez-vous; votre âme, absorbée par les idées grossières d'un amour sensuel, par les détails indiscrets d'une vie domestique et minutieuse, saisira avec moins d'audace les conceptions supérieures. Comment accorder les devoirs de votre état avec l'embarras d'une famille?... Aimez-moi parce que l'amour est une des plus douces récompenses de la gloire; mais qu'une femme ne soit pour vous qu'une maîtresse toujours passionnée, et sans cesse occupée à vous tresser des couronnes, à vous préparer des parfums, à vous enchanter par la douceur de sa voix et la volupté de ses caresses; que rien de ce qui est commun aux liaisons vulgaires, ne vienne ravaler nos divins transports, faire un pacte d'un sentiment, et substituer peut-être le dégoût, la satiété, la langueur aux rêves de notre imagination et aux ardeurs de nos désirs toujours renaissans.»
Abailard étonné de cet étrange discours, mais non persuadé, insista pour épouser Héloïse, il ne l'y détermina qu'avec peine, et à condition que leur mariage serait secret. Cette condition déplut à Fulbert; ce chanoine en prit occasion d'associer à sa vengeance tous les parens d'Héloïse; il gagna par argent le valet d'Abailard, et s'étant introduit pendant la nuit dans la chambre où il couchait, les barbares le mutilèrent. Le chanoine Fulbert fut arrêté, dépouillé de ses bénéfices et condamné à l'exil; deux de ses gens qui avaient aidé à consommer ce crime, furent jugés et subirent la peine du talion.
Abailard, évanoui, baigné dans son sang, ne recouvre ses sens que pour reconnaître sa honte et ses outrages. Il va cacher son désespoir dans le cloître de Saint-Denis; mais avant de prononcer ses vœux qui doivent élever une barrière éternelle entre le monde et lui, il souhaite qu'Héloïse, fuyant elle-même le monde, se consacre à Dieu dans le monastère d'Argenteuil.
Agée de vingt-deux ans, pleine d'attraits, entourée des hommages publics, Héloïse n'hésite pas à consommer ce sacrifice, et malgré les prières de ceux qui l'entourent, elle court s'enfoncer dans le cloître désigné.
Cependant Abailard languissait dans l'abbaye de Saint-Denis; la licence et les débordemens de cette maison le rendaient encore plus malheureux. Ses remontrances irritèrent ses confrères, qui lui suscitèrent des désagrémens et même des persécutions. Alors il quitta leur abbaye et revint professer à Paris. Ses succès réveillèrent les envieux que ses malheurs et son absence avaient assoupis. Ils l'accusèrent d'hérésie: il fut cité au concile de Soissons où il faillit être lapidé par les habitans de cette ville, aveuglés par le fanatisme. Les pères du concile le condamnèrent à être renfermé dans le couvent de Saint-Médard.
De nouvelles accusations l'atteignirent dans ce cloître. On le considéra même comme atteint du crime de lèse-majesté. Déjà les bruits les plus sinistres circulaient autour de lui, lorsque des religieux, touchés de son infortune, le firent évader. Errant pendant la nuit, redoutant le jour et l'approche des hommes, il suit les chemins les moins frayés, et arrive enfin sur les bords de l'Ardusson, non loin de Nogent-sur-Seine, dans un désert qui, par son aspect stérile et sauvage, lui parut un séjour convenable à son existence proscrite. Il ne fut pas long-temps inconnu dans cette retraite, où il vivait d'herbes et de fruits âpres. Des disciples vinrent en foule, et il y fonda avec eux un monastère, qu'il nomma le Paraclet. Cette dénomination, où l'on prétendit trouver la matière d'une hérésie, lui attira une nouvelle persécution.