Йосеф Эпельбойм родился в бессарабском местечке Ганчешты (ныне райцентр Хынчештского района Молдавии) в семье ганчештского раввина Шмарье Эпельбойма. В детстве переболел полиомиелитом, оставившим после себя хромоту. Раввинское звание (смиху) получил у Лейба Цирельсона в Кишинёве и вплоть до 1940 года работал его личным секретарём.
В 1920—1930 годы был одним из руководителей Кишинёвского отделения ортодоксального объединения «Агудас Исроэл», занимался организацией помощи еврейским беженцам с Украины. Участвовал в открытии в городе общинного дома для престарелых, первой в Бессарабии кишинёвской религиозной школы для девочек сети «Бейс Яаков». С 1928 года издавал на идише газету «Ди вох» (Неделя), публиковался под псевдонимом Йосеф Шац. В 1930-е годы выпускал ежемесячный журнал «Дэр штыб—журнал» (Домашний журнал). Преподавал в религиозной гимназии раввина Л. М. Цирельсона Моген Довид и основы иудаизма в румынских гимназиях города.
В 1938 году Йосеф Эпельбойм издал учебный трактат «Пниней hаДос» (Жемчужина веры), выдержавший в последние десятилетия несколько переизданий в разных странах. В годы Великой Отечественной войны — в эвакуации. С 1945 года и до конца жизни был раввином еврейской общины Кишинёва, располагавшейся в единственной оставшейся после войны синагоге стекольщиков (глейзэршил).
