Родился в городе Тотьма (Новгородская республика), образования не получил.
В 1428 году вместе с рыбаками ушёл на поморский берег, посетил Соловецкий остров, а затем поселился при часовне на реке Выг. Познакомившись с Савватием, монахом Валаамского монастыря, Герман переселился с ним на Соловецкий остров. Вдвоём они построили келью в которой прожили около шести лет. В 1435 году Герман отправился в Онегу за припасами, в его отсутствие Савватий скончался. Спустя некоторое время к Герману присоединился молодой отшельник Зосима, построивший себе келью в полуверсте от кельи Германа. Постепенно к ним присоединились другие отшельники и был основан Соловецкий монастырь.
В 1479 году игумен Арсений направил Германа в Новгород по делам монастыря, где тот скончался в монастыре Антония Римлянина. Тело преподобного хотели отвести на Соловки, но из-за весенней распутицы оно было захоронено у часовни в деревне Хавроньиной на реке Свирь. В 1484 году при игумене Исаии мощи Германа были перенесены в Соловецкий монастырь. Их поместили с правой стороны алтаря Никольского храма обители, рядом с мощами преподобного Савватия.
После закрытия монастыря и создания в нём Соловецкого лагеря мощи Германа, Зосимы и Савватия были изъяты и возвращены верущим только в 1990 году. До 1992 года они хранились в Троицком соборе Александро-Невской лавры, в августе во время визита на Соловки патриарха Алексия II они были возвращены в обитель.
