В Рославльских лесах Тимофей Иванович провел десять лет. Он вручил себя руководству иеросхимонаха Афанасия. Этот мудрый старец пребывал постоянно в духовном трезвении и имел дар умной молитвы. Беспопечительность его о всем житейском была безгранична. Этим старцем и пострижен Тимофей Иванович в монашество, с именем Моисея. Это имя было дано ему по общей мысли пустынников, в знак гостеприимства, которое с любовью оказывал о. Моисей странникам, доходившим до пустынников. Преподобный Моисей Мурин любил успокаивать странников.
Пустынники, с которыми поселился в лесу о. Моисей, числом 8, жили в трех келлиях. Место уединения их находилось в дачах помещика Броневского, в сорока верстах от Рославля, в пяти от сельца Якимовского, в семи от села Лугов и в 30 от сельца Межова, на берегу лесной речки Богдачевки.
Всю церковную службу пустынники правили каждодневно у себя в келлии, начиная с 12 часов ночи; в воскресные и праздничные дни случалось им отправлять службу вместе; в Рождество, Пасху, и великие праздники приходил из села Лугов священник, с запасными Дарами.
В свободное от молитвы время пустынники занимались рукоделием; так, о. Моисей переписывал полууставом священные книги.
Огород, который обрабатывали пустынники, родил только репу. Летом собирали грибы, ягоды для благодетелей, присылавших печеный хлеб, крупу и иногда бутылку масла. При недостатке соблюдали сухоядение. Целую зиму кругом выли волки; и медведи обижали пустынников, расхищая иногда огород; они подходили близко, но не трогали монахов — только по лесу слышался шум ломаемых ими ветвей. Однажды отшельники чуть не были перебиты разбойниками; полиция иногда придиралась к ним.
Но всего страшнее были бури, ломавшие столетние деревья. Однажды громадное дерево упало около келлии с ужаснейшим треском, и о. Моисей думал, что все кончено; но дерево задало келлию лишь ветвями.
В 1812 г., при нашествии французов, отшельники покинули пустыню, и о. Моисей удалился в Свенск и Белые Берега, а потом вернулся опять в пустыню.
В 1816 г. к отцу Моисею приехал его младший брат Александр, чтобы разделить с ним его жизнь. Через четыре года Александр келейно пострижен иеросхимонахом Афанасием, с именем Антония, и поручен руководству брата своего о. Моисея, к которому всю жизнь сохранял великое послушание.
С братом своим, в 1816 г., о. Моисей был в Киеве, где радушно принят митрополитом Серапионом и наместником лавры Антонием (впоследствии арх. Воронежский). По дороге в разных обителях о. Моисей посетил старцев: о. Василия Кишкина, о. Макария (будущего Оптинского) и о. Филарета Глинского.
Во время пустынной жизни окреп и созрел духовно о. Моисей. Он приобрел сосредоточенность и молчание, внимание и дар молитвы и уничижения себя; все эти качества высказались в нем в многопопечительном звании настоятеля. Следами той постоянной и неуклонной борьбы, какую вел с собою в тиши уединения о. Моисей, осталось несколько разрозненных листков из числа тех, на которых о. Моисей записывал иногда свои думы. Вот отрывки из них: