Выкопав себе пещеру в земле, о. Герман провел в ней лето. Когда американская компания выстроила для него келлию, он предназначил пещеру для своей могилы. У келлии был огород, а вблизи деревянная часовня и деревянный домик для училища и посетителей. На этом месте о. Герман подвизался более 40 лет. Жизнь его была в высшей степени сурова. Он таскал для топлива большие деревья, которые могли бы снести только четверо, возделывал огород, принося для удобрения его в громадном коробе морскую капусту; на зиму делал запасы грибов и соли, добывая ее из морской воды. Все добытое он употреблял на пищу, одежду и книги для своих воспитанников-сирот.
Воздержание о. Германа было удивительно; он в гостях чуть отведывал за обедом какого-нибудь блюда, а в келлии довольствовался малою частью овощей или рыбы.
Одежда его, неизменная зимою и летом, в бурю, дождь и метель, — состояла из оленьей кухлянки (рубашки), без белья, которую он носил, не снимая, по 8 лет, сапог, подрясника и заплатанной рясы. Постель состояла из узкой скамьи с изголовьем из кирпичей; одеяла не было; деревянную доску, лежавшую на печке, о. Герман называл одеялом своим и завещал покрыть ею себя в могиле. Тело свое, изнуренное бдением, сокрушал он 15-фунтовыми веригами. После смерти они найдены были, или, как говорят другие, сами выпали в часовне. "Трудную жизнь, говорят алеуты, вел апа (дедушка), и никто не может подражать его жизни". Кроме этих внешних подвигов, всякую минуту жизни предстоял о. Герман Творцу своему. Из келлии его слышалось совершаемое им монастырское богослужение, и, ведя жизнь как человек, разрешившийся от плоти, он стал как бесплотный, и, на вопрос, как он не соскучится, отвечал: "Я не один! Там есть Бог, там есть ангелы святые. И можно ли с ними соскучиться!"
Об отношениях своих к туземцам, к которым Промысл Божий послал о. Германа, он писал так правителю колонии Яновскому: "Я нижайший слуга здешних народов и нянька, от лица их пред вами ставши, кровавыми слезами пишу вам мою просьбу: будьте нам отец и покровитель. Мы всеконечно красноречия не знаем, но с немотою, младенческим языком говорим: "отрите слезы беззащитных сирот, прохладите жаром печали тающие сердца, дайте разуметь, что значит отрада". Понимая, что народ этот находится во младенческом состоянии, о. Герман жалел его как малого ребенка; он заступался за него пред начальством; никого не боясь, распаляемый ревностью Божественною, и не взирая на лица, обличал он некоторых начальствующих в недостойном поведении и притеснении алеутов. На него вооружались злобою, клеветами, писали в Петербург, что необходимо выселить его, что он возмущает против начальства; один Бог хранил его в этих притеснениях.
Алеуты часто приходили к нему. Он помогал им, разбирал их неприятности, мирил; нежно любил он детей, оделял их сухариками, сам пек им крендельки. Особенно ясно высказалось самоотвержение о. Германа во время повальной язвы, занесенной в Кадьяк кораблем из Соединенных Штатов. Не было ни лекарств, ни докторов; люди умирали в три дня. Ужасное зрелище представляли большие сараи, служившие жилищами алеутов. До ста человек лежало в повалку — живые рядом с остывшими уже мертвецами; там кончались, тут слышались раздирающие стоны. По охладевшим грудям умерших матерей ползали голодные дети, с воплем искавшие себе пищи. Во все время этой грозной беды, длившейся месяц, о. Герман ходил утешителем среди этого земного ада, увещевая терпеть, молиться и каяться.
Для просвещения алеутов, о. Герман устроил жилище для сирот и сам учил их Закону Божию и церковному пению. В воскресные и праздничные дни он собирал алеутов в часовню. Часы и разные молитвы читал ученик его, пение совершалось, и очень хорошо, сиротками, а сам старец читал Апостол и Евангелие и устно поучал народ. Увлекательные беседы эти, чудною силою действовавшие на слушателей, собирали множество народа. Одна молодая женщина, Софья Власова, услыхав от о. Германа о воплощении Сына Божия и вечной жизни, умолила старца разрешить ей остаться на острове, и сделалась надзирательницею детей. Умирая, старец завещал ей остаться на Еловом, и похоронить ее по смерти в своих ногах.
По смирению, отказавшись от сана иеромонаха и архимандрита, который ему предлагали, не имея официального звания, о. Герман был отцом бедного, заброшенного племени, к которому послал его Бог.
Но не на одних только алеутов оказывал влияние о. Герман. Его светлый образ неотразимо действовал на всех соприкасавшихся с ним, — а большинство таких лиц были моряки.
"Мне было тридцать лет, — рассказывает один из них, — когда я встретился с о. Германом. Я воспитывался в морском корпусе, знал многие науки и много читал; но, к сожалению, науку из наук, т. е. Закон Божий едва понимал поверхностно, и то теоретически, не применяя к жизни, и был только по названию христианин, а в душе и на деле вольнодумец, деист. Я перечитал много сочинений безбожных Вольтера и других философов XVIII века, и не признавал божественности и святости нашей религии. Отец Герман тотчас заметил это и пожелал меня обратить. К великому моему удивлению, он говорил так сильно, умно, доказывал так убедительно, что мне кажется, никакая ученость и земная мудрость не могли бы устоять против его слов.
Ежедневно беседовали мы с ним до полуночи, и даже за полночь, о любви Божией, о вечности, спасении души, христианской жизни. Сладкая речь неумолкаемым потоком лилась из его уст. Такими беседами и молитвами святого старца Господь совершенно обратил меня на путь истины. Всем я обязан о. Герману; он мой истинный благодетель.