Раввин Зильбер родился в 1917 году в Казани у рава Бенциона Хаима Циюни (Зильбер) — главного раввина Казани и Леи-Гитл Шапиро. Получил традиционное еврейское воспитание в условиях, когда это было практически невозможно, что оказало значительное влияние на всю его последующую жизнь. Религиозное чувство дало о себе знать очень рано. Уже в 5 лет Ицхак мечтал уехать в Палестину. Всё своё начальное образование, как религиозное, так и светское, рав получил от отца и ни дня не посещал школу.
В 1935 году заочно сдал экзамены в Казанский университет. Изначально выбрал химию, но сменил её на математику. Поступил доцентом к профессору Николаю Чеботареву, крупнейшему алгебраисту. После окончания университета работал сельским учителем.
В 1945 Мордехай Дубин находит раввину Ицхаку невесту и он вскоре женится на Гите-Леи Зайдман в Куйбышеве. У Зильберов родилось 4 детей - сын Бен-Цион и 3 дочери.
В 1951—1953 гг. сидел в лагере в Татарской автономной республике по обвинению в незаконном хранении облигаций. В 1959 был вызван на допрос по обвинению в прививании детям еврейского воспитания и их отказа писать в Шаббат. После угрозы местной ячейки компартии лишить его родительских прав бежал из Казани, забрав с собой позже всю семью.
В 1960 поселился в Ташкенте, где стал одной из центральных фигур в местной еврейской общине.
Раввин Зильбер является автором серии книг, видео- и аудиокассет по недельным главам Торы, а также своей автобиографии, где приводятся интересные факты связанные с еврейской жизнью в Советском Союзе.
Раввин скончался после продолжительной болезни 8 ава 2004 (5764) года. В последний путь его провожали более 10 000 человек, в том числе крупнейшие раввины с мировым именем. Был похоронен 9 ава на иерусалимском кладбище Гар а-Менухот рядом со своей женой.
