Окончил Будапештскую музыкальную академию, где учился у Енё Хубаи, Золтана Кодаи, Лео Вайнера. Затем отправился в Бельгию для занятий с Эженом Изаи — и остался там. После Второй мировой войны преподавал в Брюссельской консерватории, затем с 1954 года в Кёльнской консерватории и наконец после 1964 г. в Ганноверской Высшей школе музыки. Среди учеников Гертлера, в частности, Тадеуш Вроньский и Андре Рьё.
Известен как поклонник творчества Белы Бартока, записал все его скрипичные сочинения.
