Учился в Праге у Отакара Шевчика, затем в 1900—1904 гг. в Московской консерватории у Ивана Гржимали и в 1904—1908 гг. в Петербургской консерватории у Леопольда Ауэра.
С 1908 г. преподавал в берлинской Консерватории Штерна. Много выступал в ансамбле с Максом Регером и в дальнейшем, как вспоминала Мария Юдина, принадлежал к числу главных пропагандистов его музыки, в том числе в ходе гастролей в СССР в 1923—1924 гг. В целом репертуар Шмуллера был весьма широк — так, в ходе одного выступления он мог сыграть скрипичные концерты Диттерсдорфа и Дариуса Мийо или сонаты Жана-Батиста Сенайе и Ивана Крыжановского, критикой были отмечены его исполнения концертов Ферруччо Бузони и Рудольфа Менгельберга.
С 1914 г. преподавал в Амстердамской консерватории, регулярно выступал как солист с Оркестром Концертгебау, с 1926 г. выступал с ним же как дирижёр, был дружен с Виллемом Менгельбергом, который иногда даже аккомпанировал ему на фортепиано. В 1928—1930 гг. возглавлял Роттердамский филармонический оркестр.
Выступал в прессе по вопросам музыки — в частности, в 1922 г. инициировал дискуссию в нидерландских газетах, резко высказавшись на страницах одной из них против практики музыкантов играть для заработка в кино и ресторанах. Посмертно вышел сборник статей и заметок Шмуллера «О музыке и музыкантах» (нидерл. Over muziek en musici; 1933).
