Hannibal hatte sich nach der Eroberung von Sagunt in die Winterquartiere begeben. Hier entbot er die Hauptleute der auf der Halbinsel geworbenen Krieger zu sich und machte sie mit seinem Plan, in fernes Land zu ziehen, bekannt. Um ihnen aber Zeit zu geben, sich von den Beschwerden des letzten Krieges zu erholen und ihre Familien wiederzusehen, erteilte er allem Kriegsvolk einen Urlaub, mit dem Befehl, beim Anbruch des Frühlings sich wieder einzustellen. Nachdem er dann im Frühjahr die Truppen gemustert hatte, ließ er, um Spanien zu behaupten, ein Heer von 15000 Mann und eine Flotte von 50 Schiffen unter dem Befehl seines Bruders Hasdrubal zurück. Ein anderes, größtenteils aus Ibérern bestehendes Heer von nahe an 20000 Mann schickte er nach Afrika, um teils als Besatzung von Karthago zu dienen, teils im karthagischen Gebiet verteilt zu werden. Er selbst brach im Frühjahr 218 mit 90000 Mann Fußvolk, 12000 Reitern und 37 Elefanten nordwärts nach dem Ibérus (Ebro) auf (218).
Auf diesem Zuge erschien ihm einst, wie die Sage erzählt, im Schlaf ein Jüngling von göttlicher Gestalt, welcher sagte: „Ich bin von Jupiter als dein Wegweiser nach Italien gesandt; mache dich auf und folge mir unverwandten Auges.“ Hannibal folgte anfangs schüchtern, nirgends um oder hinter sich blickend; dann aber konnte er aus menschlicher Ängstlichkeit, was das wohl sein möge, wonach er sich nicht umsehen solle, seine Augen nicht mehr beherrschen. Er blickte hinter sich und gewahrte eine Schlange von wundersamer Größe, die hinter ihm herschoß, Bäume und Sträucher weithin niederschlagend, und hinter der Schlange einen Platzregen mit Donnerschlägen. Auf seine Frage, was das für ein Ungetüm sei, und was das Zeichen bedeute, erhielt er die Antwort, daß es die Verwüstung Italiens sei; er solle aber nur vorwärts gehen, nicht weiter fragen und das fernere Schicksal in seinem Dunkel ruhen lassen.
Froh über dieses Gesicht setzte er über den Ebro und bezwang die noch unabhängigen Völkerschaften zwischen diesem Fluß und den Pyrenäen. Um die Pässe des Gebirges und die neu eroberten Landschaften zu hüten, ließ er eine Truppe von 11000 Mann zurück, während er noch andere 11000 Mann, welche die Furcht vor einem Kriege mit Rom entmutigt hatte, nach Hause entließ. Ihm selbst blieben damals 50000 Mann zu Fuß und 9000 Reiter, alle bewährte Krieger, zum größeren Teil Libyer aus dem Gebiete Karthagos, zum kleineren Teil Hispanier (Ibérer). Die Völker des südlichen Galliens gewann er durch List und Geschenke, und als man in Rom vernahm, er habe den Ebro überschritten, stand er bereits am rechten Ufer der unteren Rhódanus (Rhone), an der Stelle des heutigen Avignon.
Die dort seßhaften Gallier standen auf seiten der Römer, fühlten sich aber zu schwach, um den Anmarsch des punischen Heeres in offenem Felde aufzuhalten. In der Hoffnung auf die Hilfe des römischen Heeres, das bereits bei Massilia (Marseille) an der Rhonemündung eingetroffen war, nahmen sie auf dem linken Flußufer eine feste Stellung ein. Aber Hannibal ließ sich nicht aufhalten. Er ließ alle Schiffe und Kähne aufwärts und abwärts des Flusses zusammenholen, Bäume fällen und Flöße bauen, und traf alle Anstalten zu raschem Übergang. Aber auf der anderen Seite standen die Feinde, die zu Pferd und zu Fuß das ganze Ufer innehatten. Um sie von dort zu vertreiben, befahl Hannibal dem Hanno mit einem Teil des Heeres zwei Tagereisen weit am Flusse hinaufzuziehen und dort an einer geeigneten Stelle überzusetzen. Pünktlich führte Hanno den Befehl aus. Auf Flößen und verkoppelten Baumstämmen brachte er Roß und Mann und alles übrige hinüber. Die Hispanier steckten ihre Kleider in Schläuche, legten sich darauf und schwammen ohne weitere Vorkehrung über den Fluß. Von dort zog er eilends stromabwärts in den Rücken der Feinde, und bereits am dritten Tage seit seinem Aufbruch meldete er durch Rauchsignale dem Feldherrn seine Ankunft. Sofort gab Hannibal den Befehl zum Übergang. Die Gallier anderseits stürzten gegen das Ufer mit vielstimmigem Geheul, ihrem gewohnten Schlachtgesange, die Schilde zusammenschlagend und in der Rechten den Speer schwingend. Da plötzlich loderte in ihrem Rücken das eigene Lager in hellen Flammen auf. Hanno hatte es überfallen und bedrohte ihre Rückseite. Zwar suchten die Gallier anfangs nach beiden Seiten das Feld zu halten, gaben aber bald den hoffnungslosen Widerstand auf und zerstreuten sich in ihre Dörfer. So konnte Hannibal sein ganzes Heer mit allem Troß ungefährdet über den reißenden Strom führen und jenseits ein Lager schlagen.
Ganz eigentümlich war die Art, wie Hannibal die Elefanten hinübersetzen ließ. Er ließ ein 200 Fuß langes und 50 Fuß breites Floß vom Lande aus in den Fluß hineinbauen und damit es nicht vom Strome fortgerissen würde, durch starke Taue am Ufer festbinden. Dann ließ er es mit Erde beschütten, damit es die Tiere ohne Scheu gleich wie festes Land betreten könnten. Ein zweites Floß, ebenso breit, 100 Fuß lang und zur Überfahrt eingerichtet, wurde an jenes angebunden. Wenn nun die Elefanten über das feststehende Floß, wie auf einer Straße, auf das zweite kleinere Floß hinübergegangen waren, so wurden sogleich die Bindetaue gelöst und dies Floß an das andere Ufer gezogen. So lange sie auf dem ersten Floß wie auf einer breiten Brücke gingen, blieben sie ruhig; dann erst zeigten sie Angst, wenn das zweite Floß abgelöst war und mit ihnen in die Mitte des Flusses trieb. Da drängten sie sich vom Wasser weg zusammen und verursachten ziemliche Störung, bis endlich die Furcht selbst sie ruhig machte.
Um die Zeit, da Hannibal über die Rhone ging, stand der römische Konsul P. Cornelius Scipio an der Mündung dieses Stromes. Er hatte mit seinem Heere nach Spanien übersetzen sollen, um dort den Krieg zu beginnen, während der andere Konsul, Titus Sempronius Longus, von Sicilien aus Karthago selbst angreifen sollte. Als er aber auf dieser Fahrt nach Massilia kam, mußte er zu seiner großen Überraschung erfahren, daß der Feind bereits in der Nähe stände und sich anschickte über die Rhone zu gehen. Statt nun sofort dem Hilferufe der Gallier zu folgen, zauderte er, bis es zu spät war. Ein Reitergeschwader, das er darauf den Fluß hinaufsandte, um Erkundigungen über den Standort und die Stärke des feindlichen Heeres einzuziehen, traf auf eine zu gleichem Zwecke abgeschickte Abteilung Numider (aus Nordafrika). Es kam zu einem sehr hitzigen Gefecht, in dem sich der Sieg endlich auf die Seite der Römer neigte. Doch als Scipio in eiligem Marsche nach der Übergangsstelle hinaufzog, war das feindliche Heer schon in weiter Ferne, und es blieb ihm nichts übrig als nach Italien zurückzukehren und dort den Feind zu bestehen.
Für Hannibal aber begann jetzt erst der schwierigste Teil seiner kühnen Unternehmung. Es galt den Marsch zu wagen mitten durch zahlreiche Feinde, über die schnee- und eisbedeckten Alpen, auf ungebahnten, vielleicht noch nie betretenen Wegen, die selbst für Fußgänger kaum gangbar waren, viel weniger noch für Elefanten, Rosse und schwerbeladene Karren und Saumtiere. Kein Wunder, daß beim Anblick der steilen Gebirge selbst die abgehärtesten Krieger zu zagen begannen. Nur ihr Feldherr blieb festen Mutes und verstand es auch seinen Truppen neue Zuversicht einzuflößen. Er schilderte ihnen die reichen Gebiete, die sie jenseits des Gebirges erreichen, die große Beute, die sie dort gewinnen, und die Hilfe, die sie im Tale des Po bei den kriegstüchtigen und von Römerhaß erfüllten gallischen Stämmen finden würden. Er führte ihnen sogar einen eben von dort eingetroffenen gallischen Fürsten vor, Magilus mit Namen, der dies alles bestätigte.
Man kannte damals nur zwei Pässe zum Übergang von Gallien nach dem oberen Italien. Der eine kürzere aber rauhere führte durch das Tal der Dürance über die cottischen Alpen (Mont Genèvre) in das Gebiet der Tauriner (Turin), der längere aber weniger schwierige im Tal der Isère aufwärts zu den graischen Alpen und über den kleinen St. Bernhard ins Tal der Doria (Baltéa). Diesen zweiten wählte Hannibal auch deshalb, weil die an seinem jenseitigen Ausgange wohnenden Gallier nur auf seine Ankunft warteten, um sich mit ihm gegen die Römer zu verbinden.
Der Marsch ging zuerst sechzehn Tage lang durch das fruchtbare Gebiet der Allóbroger zwischen Isère und Rhone, bis zum Fuße des Hochgebirges. Der von den Bewohnern gesperrte nächste Paß wurde genommen; aber auf dem steilen und glatten Abstieg von der Höhe geriet das Heer in harte Not: feindliche Haufen brachen in die Reihen, ein wildes Getümmel entstand, Menschen und Tiere stürzten in die Tiefe. Erst als man ins Tal der Isère gelangte, ward der Marsch gefahrlos, bis man in das Gebiet der Centronen hinaufstieg, welche das Heer mit allen Zeichen der Freude gastlich empfingen und aus dem Tale zum Fuß der Paßhöhe des kleinen St. Bernhard geleiteten. Da plötzlich griffen sie die nächste durch eine Schlucht emporklimmende Abteilung von allen Seiten an. Unter blutigen und verlustvollen Kämpfen gelangte man am folgenden Tage auf die Hochfläche des Passes.
Den erschöpften und durch die schweren Verluste an Menschen und Tieren entmutigten Truppen gewährte hier der Feldherr eine kurze Rast, die er benutzte, um alle Nachzügler und Versprengte zu sammeln und durch den Hinweis auf die Nähe des ersehnten Zieles, durch den Ausblick auf die in der Ferne sich breitende Ebene Italiens die gesunkene Stimmung wieder zu heben. Man näherte sich zwar den befreundeten Galliern, aber die vorgerückte Jahreszeit — es war schon Anfang September — brachte neues Ungemach. An den engen und steilen Talrändern der Dora, auf denen der Abstieg geschah, lag frischer Schnee, der die Pfade verdeckte; haufenweise stürzten Menschen und Tiere in die Abgründe. An einer Strecke von nur 200 Schritt Länge mußte vier Tage lang mit Aufgebot aller Kräfte gearbeitet werden, um die Elefanten und das Gepäck über die glatten Eismassen hinüber bringen zu können. Nach weiterem dreitägigen Marsch bergab gelangte man endlich in die Talebene, wo die Dörfer der Gallier, in der Gegend des heutigen Ivréa, Rast und Pflege boten.