Le 16 octobre, les éclaireurs ennemis se montrèrent devant Polotsk, dont l'aspect dut leur paraître bien changé, tant à cause de l'immense camp retranché nouvellement établi, que par les nombreuses fortifications dont la plaine était couverte. La plus grande et la plus forte était une redoute surnommée la Bavaroise. Tous ceux des malheureux soldats du général de Wrède qui avaient survécu à la maladie du pays demandèrent à défendre cette redoute, ce qu'ils firent avec beaucoup de valeur.
Le combat commença le 17 et dura toute la journée, sans que le maréchal Saint-Cyr pût être forcé dans sa position. Le général Wittgenstein, furieux, attribuant cet échec à ce que ses officiers n'avaient pas assez reconnu le fort et le faible de nos ouvrages défensifs, voulut les examiner lui-même et s'en approcha très courageusement; mais cet acte de dévouement faillit lui coûter la vie, car le commandant Curély, l'un des plus braves et des meilleurs officiers de l'armée française, ayant aperçu le général russe, s'élance sur lui à la tête de l'escadron fourni par le 20e de chasseurs, sabre une partie de son escorte, et poussant jusqu'à Wittgenstein, auquel il met la pointe sur la gorge, il le force à rendre son épée!
Après l'importante capture du général en chef ennemi, le commandant Curély aurait dû se retirer promptement entre deux redoutes et conduire son prisonnier dans le camp retranché; mais Curély était trop ardent, et, voyant que l'escorte du général russe revenait à la charge pour le délivrer, il crut l'honneur français engagé à ce qu'il conservât son prisonnier, malgré tous les efforts des ennemis!… Wittgenstein se trouva donc pendant quelques minutes au milieu d'un groupe de combattants qui se disputaient sa personne; mais le cheval de Curély ayant été tué, plusieurs de nos chasseurs mirent pied à terre pour relever leur chef, et Wittgenstein, profitant de la confusion produite par cet événement, s'enfuit au grand galop, en ordonnant aux siens de le suivre!…
Cet épisode, bientôt connu de toute l'armée, donna lieu à une controverse des plus vives. Les uns prétendaient que la modération dont Curély avait fait preuve en ne portant aucun coup au général Wittgenstein devait cesser du moment où les Russes, revenus au combat, étaient sur le point de délivrer leur général, et ils soutenaient que Curély aurait dû lui passer alors son sabre au travers du corps. Mais d'autres disaient que, du moment où Curély avait reçu le général ennemi à merci, il n'avait plus le droit de le tuer. Il peut y avoir du vrai dans ce dernier raisonnement; cependant, pour qu'il fût complètement exact, il faudrait que, à l'exemple des anciens chevaliers, le général Wittgenstein se fût constitué prisonnier, secouru ou non secouru; mais il paraît qu'il n'avait pas pris cet engagement, ou bien qu'il y manqua, puisqu'il s'évada dès qu'il en vit la possibilité. En avait-il le droit? C'est une question très difficile à résoudre. Il en est de même de celle relative au droit qu'aurait eu Curély de tuer Wittgenstein pendant qu'on cherchait à le reprendre. Quoi qu'il en soit, lorsque, plus tard, on présenta le commandant Curély à l'Empereur pendant le passage de la Bérésina, où le général Wittgenstein nous fit éprouver de si grandes pertes, Napoléon dit au chef d'escadrons: «Ce malheur ne fût probablement pas arrivé si, usant de votre droit, vous eussiez tué Wittgenstein sur le champ de bataille de Polotsk, au moment où les Russes cherchaient à l'arracher de vos mains…» Malgré ce reproche, mérité ou non, Curély devint colonel peu de temps après et officier général en 1814.
Mais revenons à Polotsk, dont les ennemis, repoussés le 17 octobre, renouvelèrent l'attaque le 18, avec des forces tellement supérieures que, après avoir éprouvé des pertes immenses, Wittgenstein s'empara du camp retranché. Mais Saint-Cyr, se mettant à la tête des divisions Legrand et Maison, l'en chassa à coups de baïonnette. Sept fois les Russes revinrent avec acharnement à la charge, et sept fois les Français et les Croates les repoussèrent, et restèrent enfin maîtres de toutes les positions.
Le maréchal Saint-Cyr, quoique blessé, n'en continua pas moins à diriger les troupes. Ses efforts furent couronnés d'un plein succès, car les ennemis, abandonnant le champ de bataille, se retirèrent dans la forêt voisine. 50,000 Russes venaient d'être battus par 15,000 hommes. La joie régnait dans le camp français. Mais le 19 au matin, on apprit que le général Steinghel, à la tête de 14,000 Russes, venait de traverser la Düna devant Disna et remontait la rive gauche pour tourner Polotsk, s'emparer des ponts et enfermer l'armée de Saint-Cyr entre les troupes qu'il amenait et celles de Wittgenstein. En effet, on vit bientôt l'avant-garde de Steinghel paraître devant Natcha, se dirigeant vers Ekimania, où se trouvaient la division de cuirassiers et les régiments de cavalerie légère dont le maréchal n'avait gardé qu'un escadron à Polotsk.
En un clin d'œil, nous fûmes tous à cheval et repoussâmes les ennemis, qui auraient cependant fini par prendre le dessus, car il leur arrivait de puissants renforts, et nous n'avions pas d'infanterie, lorsque le maréchal Saint-Cyr en envoya trois régiments, détachés des divisions qui gardaient Polotsk. Dès lors, Steinghel, qui n'avait plus que quelques efforts à faire pour arriver aux ponts, s'arrêta tout court, tandis que sur l'autre rive Wittgenstein gardait aussi l'immobilité. Il semblait que les deux généraux russes, après avoir combiné un plan d'attaque très bien conçu, n'osaient en achever l'exécution, chacun d'eux s'en reposant sur l'autre du soin de vaincre les Français.
Cependant la position de ces derniers devenait horriblement critique, car, sur la rive droite, ils étaient acculés par l'armée de Wittgenstein, triple de la leur, contre une ville entièrement construite en bois et une rivière considérable, n'ayant d'autre moyen de retraite que les ponts, dont les troupes de Steinghel menaçaient de s'emparer par la rive gauche.
Tous les généraux pressent alors Saint-Cyr d'ordonner l'évacuation de Polotsk; mais il veut gagner la nuit, parce qu'il sent que les 50,000 Russes placés devant lui n'attendent que son premier mouvement rétrograde pour s'élancer sur son armée affaiblie et porter le désordre dans ses rangs. Il resta donc immobile, et, profitant de l'inconcevable inaction des généraux ennemis, il attendit le coucher du soleil, dont heureusement le moment fut avancé par un brouillard fort épais, qui déroba les trois armées à la vue les unes des autres. Le maréchal saisit cet instant favorable pour exécuter sa retraite.
Déjà sa nombreuse artillerie et quelques escadrons restés sur la rive droite avaient traversé les ponts en silence, et l'infanterie allait suivre en dérobant sa marche à l'ennemi, lorsque, sur le point de partir, les soldats de la division Legrand, ne voulant pas abandonner aux Russes leurs baraques intactes, y mirent le feu. Les deux autres divisions, pensant que c'était un signal convenu, firent de même, et en un instant toute la ligne fut embrasée. Cet immense incendie ayant annoncé aux Russes notre mouvement rétrograde, toutes leurs batteries éclatèrent, et leurs obus mirent le feu aux faubourgs ainsi qu'à la ville, sur laquelle leurs colonnes se précipitèrent. Mais les Français, et principalement la division Maison, la défendirent pied à pied, car, à la lueur de l'incendie, on se voyait comme en plein jour.