Родился в Новгородской республике, в селе Толвуе, на берегу Онежского озера. Спасаясь на поморье, на устье реки Сумы, встретился с иноком Германом, который до того жил с преподобным Савватием на Соловецком острове. Прибыв на этот остров в 1436 году они построили себе келью. Вскоре к Зосиме стали стекаться ученики, которые построили храм и обитель и избрали Зосиму своим игуменом.
В 1465 году преподобный Зосима перенёс мощи преподобного Савватия с реки Выги в свою обитель. По делам обители Зосиме приходилось ходатайствовать в Новгороде, в том числе и перед знаменитой Марфой посадницей. Она принимала его в своём доме и дала монастырю грамоту о правах на тони (места для рыбной ловли). Впоследствии появилось мнение что данный документ не мог быть выдан Марфой, а является поздней подделкой соловецких монахов.
Зосима умер в 1478 году; канонизован церковным собором 1547 года и тогда же ему была написана служба. 8 августа 1566 года его мощи перенесены в придел соборного храма, посвящённый преподобному Зосиме и Савватию. Житие преподобного Зосимы и Савватия написано соловецким игуменом Досифеем, частично по собственным воспоминаниям, частично по рассказам инока Германа; литературную обработку ему дал в 1503 году митрополит Киевский Спиридон (Сатана) и в таком виде оно почти без изменений вошло в состав печатной Четьи-минеи; напечатана в «Православном Собеседнике» 1859, кн. II.
В период Соловецкого восстания 1657–1676 годов почитание преподобных Зосимы и Савватия широко распространилось в среде старообрядцев.
