Осип Наумович Абдулов родился в городе Лодзь, в нынешней Польше, в еврейской семье. В 1917 году поступил на юридический факультет Московского университета. Уже во время обучения в университете участвовал в самодеятельности, играя в различных университетских постановках.
В 1918 году Абдулов начал сценическую деятельность, работая в студии имени Шаляпина. В этой студии он получил роль, ставшую одну из самых значительных в его карьере — роль бродяги Грены в «Зеленом попугае». В студии Шаляпина актер проработал до 1923 года. Затем Абдулов играл в различных московских театрах: Театре имени Комиссаржевской, Театре сатиры, в Профклубной мастерской, Театре имени В. Мейерхольда и других театрах. С 1924 года Осип Абдулов также работал на радио диктором и актером, поставив более 200 радиоспектаклей. Впоследствии он организовал художественную радио-программу для детей. Кроме того, с 1929 года Абдулов начал преподавать в Театре-студии Ю.Завадского и в ГИТИСе.
В 1933 году Абдулов начал сниматься в кино, став очень своеобразным комедийным актером. Среди лучших работ Абдулова в кино можно называть роль Тарантулова в фильме «Человек в футляре», Джона Сильвера в «Острове сокровищ» и другие.
В 1943 году стал играть в труппе театра имени Моссовета. Лучшие театральные роли Абдулова — роль Крутицкого в пьесе «На всякого мудреца довольно простоты», Кнуровава «Бесприданнице», Сорина в «Чайке».
Абдулов был женат на Елизавете Метельской, его сын тоже стал известным актером, снявшись в фильмах «Место встречи изменить нельзя» и «Трест, который лопнул».
В 1944 году Абдулов получил звание Народного артиста РСФСР, в 1951 году — Сталинскую премию второй степени за игру в спектакле «Рассвет над Москвой», где сыграл академика Рыжова.
Осип Абдулов умер 14 июня 1953 года и был похоронен в Москве на Введенском кладбище.
