In seguito egli perfezionò il sistema, adottando linee, fra le quali egli scriveva le sillabe del testo con linee intermedie per indicare lo alzarsi ed abbassarsi dei toni. In capo alle linee egli metteva poi la lettera T (tonus) S (semitonus) per indicare se l'intervallo era un tono od un semitono. In questa guisa e con altre modificazioni, che qui sarebbe troppo lungo spiegare, Ubaldo scriveva il canto anche a più voci con un esercito di linee, sicchè il decifrarlo era forse più difficile che col mezzo dei neumi.
La gloria di continuare con fortuna l'opera iniziata da Ubaldo era riservata a Guido d'Arezzo al quale i secoli posteriori andarono a gara ad ascrivere tutte le innovazioni possibili, concentrando in lui tutta l'opera ed il lavoro di un'epoca. Guido d'Arezzo (995?-1050) fu monaco benedettino del convento di Pomposa presso Ravenna. I suoi successi e forse il suo fare battagliero e franco gli procacciarono nel convento liti e discordie tali, che egli l'abbandonò, e dopo aver vagato per l'Italia si stabilì nel Convento d'Arezzo. La fama delle sue riforme musicali ed i miracoli, che se ne raccontavano, mossero il papa Giovanni XIX (1024-1033) a chiamarlo a Roma, dove egli fu colmato d'onori, specialmente dopochè il papa stesso s'era persuaso dell'utilità delle riforme di Guido, decifrando in pochissimo tempo coll'aiuto dei nuovi segni e righe una melodia a lui sconosciuta. Guido non si fermò a Roma, perchè il clima non conveniva alla sua salute, ma ritornò a Pomposa, dove si rappacificò col priore. Egli morì priore dei Camaldolesi d'Avellana. Secondo le ultime ricerche (Morin) sembra che Guido sia nato nei dintorni di Parigi e che fosse educato nel Convento di St. Maur des Fossées presso Parigi.
Quantunque l'importanza data a Guido di quasi nuovo inventore e padre della musica sia esagerata, non essendo punto dimostrato che egli sia stato il primo a trovare il monocordo, il clavicembalo, la Solmisazione, la notazione moderna, la mano guidonica, pure la gloria ed il suo merito restano abbastanza grandi per considerarlo come un innovatore geniale, che rese pratica la scienza e liberò la musica dalla scolastica. «La via dei filosofi non è la mia, egli scrive; io cerco ciò che giova alla chiesa e fa progredire i ragazzi (pueri)».
La scala di Guido comprendeva a differenza dell'anteriore una nota bassa, il sol, γ, che mancava alla prima ottava, ed era basata sul sistema dell'esacordo (quattro toni ed un semitono), abbandonando il sistema greco del tetracordo. Essa comprendeva i seguenti toni Γ (sol) A B si nat. C D E F G a b si nat. c d e f g a b si nat. c d e.
Per solmisazione (ars solfandi), che fu ascritta a Guido ma però messa in pratica posteriormente, s'intendeva la denominazione dei toni colle sillabe ut, re, mi, fa, sol, la, o secondo la definizione di Tinctoris «solfisatio est canendo vocum per sua nomina expressio». Queste sillabe erano le prime dei sei versi della poesia ascritta a Paolo Diacono, colla quale i cantori impetravano da San Giovanni di liberarli dalla raucedine.
La melodia e la poesia erano le seguenti:
«Tu vedi, che questa sinfonia, scrive Guido a frate Michele, nella lettera: de ignoto cantu, comincia nelle sue sei divisioni con sei diversi toni. Chi dunque ha imparato il principio di ogni divisione in modo da saper trovarlo con sicurezza, potrà anche trovare questi sei toni secondo la loro qualità ogni volta che li incontra».
L'importanza delle sillabe guidoniche non consiste però nel fatto erroneamente creduto, che esse sieno state sostituite alle antiche lettere gregoriane, chè anzi queste furono conservate, ma in ciò, che esse determinarono la posizione d'ogni tono nel sistema ed il suo rapporto cogli altri toni, innalzandosi la frase musicale con ogni verso d'un tono. Nè bisogna credere che le nuove sillabe servissero originariamente a designare stabilmente i toni, chè anzi si poteva cominciare con esse da ogni tono mantenendo sempre le stesse sillabe. L'usanza di nominare le note della scala con sillabe, sembra del resto essere precedente a Guido, giacchè l'inglese Johannes Cotton (circa 1100) parla di sillabe come di cosa già da lungo in pratica.