И все же экспедицию нельзя было упрекнуть в плохой организации. С особенным вниманием Макаров подбирал людей. Команда была предупреждена о возможных трудностях и случайностях, вплоть до вынужденной зимовки. Но это отпугнуло лишь немногих. Личный состав «Ермака» почти не переменился — в новое плавание пошли почта все те, кто плавал на «Ермаке» зимой. Всего в экипаже «Ермака» числилось девяносто три человека. Это был народ молодой, энергичный и бесстрашный. Хорошо была обеспечена экспедиция и научным персоналом. На корабле имелись астроном, геолог, метеоролог, топограф, гидролог, физик-магнитолог, зоолог, ботаник и фотограф.
16 мая 1901 года «Ермак» отправился в путь. Он должен был зайти в Ньюкасл за углем, затем в Тромсе. Макаров не участвовал в плавании. Ему предстояло еще закончить дела в Кронштадте. В Ньюкасле было погружено 3200 тонн угля — столько, сколько могли вместить бункера. Перед походом к Новой Земле «Ермак» временно поступил в распоряжение русской градусной экспедиции академика Ф. Н. Чернышева. Под его начальством «Ермак» сходил на Шпицберген и 14 июня вернулся в Тромсе. Через три дня сюда прибыл и Макаров.
В Тромсе Макаров собрал всех членов экспедиции и подробно разъяснил, кто и что должен делать. На себя он взял руководство гидрологической частью. Закончив все приготовления и пополнив запасы угля, «Ермак» 21 июня 1901 года отправился в путь, взяв курс на расположенный в северной части Новой Земли полуостров Адмиралтейства. Обычно в это время западные берега Новой Земли на значительном протяжении бывают свободны от льда, но в 1901 году ледовая обстановка в этом районе была исключительно тяжелой. Еще не доходя новоземельских берегов, ледокол вошел в большое, совершенно ровное поле льда толщиной около одного метра. Однако новоземельский лед был для «Ермака» не труден. Он смело и уверенно шел вперед, легко ломая лед.
По пути встречалось много медведей. Они с любопытством смотрели на невиданное зрелище и иногда почти вплотную подходили к борту ледокола.
Научные работы велись с самого начала плавания. Через каждые пятьдесят миль делали станцию151 и производили глубоководные исследования.
Но чем дальше продвигался «Ермак», тем яснее было, что изменения, произведенные в конструкции носовой части, помогают ледоколу мало. Ему все труднее становилось бороться со льдами. Щель, которую он прокладывал во льдах, становилась все уже и извилистее. Не доходя до полуострова Адмиралтейства, несколько южнее его, ледокол оказался в сплошном торосистом льду и дальше продвигаться не смог. Эта стоянка продолжалась несколько дней. По временам лед слегка ослабевал, расходился, и тогда «Ермак» немного продвигался. Но эти ничтожные результаты никого не радовали. Угля расходовалось очень много. Тяжело было на сердце у Макарова. Все же он решил бороться. Начались бешеные удары в лед с полного хода. За первым ударом следовал второй, третий… но успеха не было. После первого удара перед торосом образовалась густая каша битого льда, которая ослабляла силу последующих ударов. После каждого удара ледокол продвигался вперед все меньше.
Другие меры, принятые Макаровым, также успеха не имели. «Ермак» застрял во льдах. Через несколько дней лед немного ослабел и удалось пройти вперед около двух миль, но затем снова началось сжатие льдов, причем более сильное, чем предыдущее.
Всегда жизнерадостный и веселый, заражавший всех своей бодростью, Макаров на этот раз сам начал терять уверенность в благополучном исходе. Однако виду не показывал. Вот запись в его дневнике от 11 июля: «Проснулся в 41/2 часа и до утра не мог заснуть. Мысль, что мы совершенно во власти природы, меня страшно гнетет. Если льды раздвинутся — мы можем выйти, а если нет — мы останемся и зазимуем. Мы находимся в торосистом поле. Перед носом и за кормой у нас тяжелый лед, слева — легкое поле, все усилия повернуть ледокол в эту сторону оказались напрасными». Над «Ермаком» нависла реальная угроза зимовки.
Чтобы поднять настроение экипажа, Макаров решил занять всех общей работой. С лопатами, кирками и другими инструментами люди вышли на лед и начали растаскивать куски льда в разные стороны. Макаров был вместе со всеми. Но скоро все увидели, что руками в ледовитом океане много не сделаешь. Работы на льду были отменены.
Но сидение на корабле быстро наскучило. Многие совершали прогулки по льду, иногда проваливаясь в запорошенные снегом проталины. Макаров сам дважды выкупался в такой проталине.