Музыкант в четвёртом поколении, получил первые уроки музыки у своего отца, польско-немецкого скрипача Августа Герке, в 1818 г. впервые выступил в концерте под руководством своего отца, в этот период руководившего домашней капеллой графов Ганских. С 1820 г. учился в Москве у Джона Фильда; 26 января 1823 года, как сообщала «Всеобщая музыкальная газета», исполнил в Киеве один из концертов Фильда «с единодушным одобрением и успехом». Затем совершенствовал исполнительское мастерство под руководством Фридриха Калькбреннера в Париже, Игнаца Мошелеса в Лондоне, Фердинанда Риса в Гамбурге.
Самостоятельно концертировал с 1832 года, в следующем году получил звание придворного пианиста. В Санкт-Петербурге входил в кружок артистов, собиравшихся у инспектора студентов Петербургского университета А. И. Фицтума и участвовавших в так называемых Университетских концертах под руководством Карла Шуберта, а в 1840 г. стал одним из основателей Санкт-Петербургского симфонического общества, предшественника Русского музыкального общества. В 1837 г. гастролировал в Париже и Лейпциге — как утверждает Энциклопедия Брокгауза и Ефрона, Роберт Шуман характеризовал исполнение Герке как «соединение лёгкости, нежности и спокойствия с верностью и отчётливостью и особенным искусством владеть инструментом». В 1866 г. впервые в Петербурге исполнил «Пляску смерти» Ференца Листа. Тем не менее, «Всеобщий биографический словарь музыкантов» Франсуа Жозефа Фети в 1862 г. утверждал, что Герке принадлежит к числу музыкантов-вундеркиндов, которые не оправдали возлагавшихся на них надежд.
С основанием в 1862 г. Санкт-Петербургской консерватории Герке стал профессором по классу фортепиано, среди его учеников, в частности, были Модест Мусоргский, Герман Ларош и будущий директор консерватории Николай Заремба. В общей сложности, по утверждению сына Герке Августа Антоновича (1841—1902), опубликовавшего биографию своего отца, у Герке было более 2000 учеников. По словам советского музыковеда Т. В. Поповой,
Герке пробовал свои силы и на композиторском поприще, но его сочинения почти все остались в рукописи.
Почётный член Санкт-Петербургского Филармонического общества (1858).
