Сын московского протоиерея. Образование получил в Московской духовной академии, по окончании курса был некоторое время диаконом при одной из московских церквей.
Овдовев, в 1801 году постригся в монашество и был учителем Петербургской семинарии и законоучителем Петербургского коммерческого училища.
В 1803 году назначен соборным иеромонахом Александроневской лавры.
В 1807 году определен настоятелем белоградского Николаевского монастыря, с возведением в сан архимандрита, ректором Курской семинарии и присутствующим в курской консистории.
В 1809 году переведён в переславский Данилов монастырь.
В 1811 году состоял членом Владимирского оспенного комитета.
В 1814 году назначен ректором и профессором богословия Владимирской семинарии.
9 ноября 1819 года хиротонисан в Петербурге в Казанском соборе во епископа Архангельского и Холмогорского.
3 июля 1821 года переведён на Смоленскую кафедру.
Памятником деятельности епископа Иосифа на Смоленской кафедре было восстановление большого Успенского собора на деньги, собранные пожертвованиями.
Поучения свои, по отзыву критиков «проникнутые искренним благочестием, отеческим простодушием и некоторого рода своеобразным остроумием», он печатал в журнале «Воскресное Чтение». Прощальная его речь смоленской пастве напечатана в «Историко-статистическом описании смоленской епархии».
17 февраля 1834 году уволен по прошению на покой и проживал до кончины в Печерской лавре, где и скончался. Похоронен в церкви при дальних пещерах.
