Родился в семье Фридмана Малкина и Голды Фарберовой.Начал учиться музыке в Одессе у чешского специалиста Ладисласа Алоиса, в 1895—1898 гг. учился в Парижской консерватории у Анри Рабо. На рубеже XIX—XX веков концертировал по Европе в дуэте с братом Жаком и в составе семейного фортепианного трио с обоими братьями. В 1902—1908 гг. солист Берлинского филармонического оркестра, играл также в фортепианном трио с концертмейстером оркестра Антоном Витеком и его женой Витой Витек. С 1908 г. выступал в составе Брюссельского квартета под руководством Франца Шёрга. Уже после начала Первой мировой войны в 1914 г. получил возможность выехать из Германии в США (как утверждает Гдаль Залесский, благодаря личной протекции фельдмаршала Мольтке).
В 1914—1919 гг. первая виолончель Бостонского симфонического оркестра, в 1919—1922 гг. — Чикагского симфонического оркестра; в этот же период участвовал в восстановленных трио с супругами Витек и со своими братьями, в 1928 году записал во втором из составов фортепианное трио Бедржиха Сметаны. В 1924—1925 гг. аккомпанировал гастрольному туру певицы Джеральдины Фаррар. В 1925—1927 гг. первая виолончель Нью-Йоркского симфонического оркестра.
В 1933—1943 гг. Малкин посвятил себя преимущественно педагогической деятельности, основав, при участии братьев, Консерваторию Малкина в Бостоне, известную, в частности, тем, что в ней на протяжении первого учебного года преподавал Арнольд Шёнберг. После закрытия консерватории Малкин в 1943—1949 гг. был первой виолончелью Нью-Йоркского филармонического оркестра.
