Fermats Methode ist diejenige, die auch heute wohl noch für eine elementare Behandlung von Maxima- und Minimaaufgaben Anwendung findet[286]. Er setzt nämlich an Stelle einer Unbekannten x einen neuen Wert x - Δ, in welchem Δ (Fermat braucht dafür die Bezeichnung E) als eine von Null nur wenig abweichende Größe betrachtet wird.
Nachdem er den Ausdruck umgeformt, wird der Übergang von Δ zur Null vollzogen und der für x gesuchte Wert ermittelt.
Ein Beispiel Fermats, bei dem wir jedoch von seiner Ausdrucksweise absehen, möge sein Verfahren erläutern. Für x2 (a - x) wird nach dem Wert von x gefragt, für den dieses Produkt den größten Wert annimmt. Für x wird x + Δ gesetzt und wir erhalten:
x2 (a - x) = (x + Δ)2 (a - x - Δ).
Die Ausrechnung und Umformung ergibt:
2ax - 3x2 + Δ (a - 3x - Δ) = 0.
Wird darin Δ = 0 gesetzt, so erhalten wir:
2ax - 3x2 = 0
und daraus:
x = 2/3 a.