Учился у Давида Ридли-Коне, затем поступил на факультет права в Венский университет и одновременно в Венскую консерваторию, где учился у Йозефа Хельмесбергера (старшего). В 1881 г. окончил консерваторию с отличием, в дальнейшем также совершенствовал композиторское мастерство в Берлине под руководством Эдуарда Греля. В 1884 г. венским Обществом друзей музыки был удостоен Бетховенской премии в области композиции; тремя годами раньше получил почётный отзыв от жюри этой же премии, в которое входили Иоганнес Брамс, Карл Гольдмарк и другие крупные музыканты.
В 1881—1882 гг. дирижёр в Линцской, в 1882—1883 гг. в Лейпцигской опере. С 1886 г. снова в Будапеште, играл вторую скрипку в струнном квартете Енё Хубаи. С 1888 г. преподавал в Будапештской консерватории, среди его учеников, в частности, Енё Сенкар.
Среди произведений Херцфельда — «Весенняя идиллия» (нем. Fr?hlingsidyll; 1897), Серенада для струнного оркестра (венг. Szeren?d von?szenekarra; 1900), «Сказочные картины» (нем. M?rchenbilder; 1904) и др., а также книга «О фуге» (1913).
