Родился в еврейской семье. С 1918 член Коммунистической партии Венгрии (КПВ). После разгрома Венгерской советской республики в 1919 бежал в Вену. Участвовал в деятельности Коминтерна, в Гражданской войне в Испании.
С 26 января по 11 мая 1945 член Высшего Национального совета. При диктатуре М. Ракоши, во многом копировавшей сталинский режим в СССР, был членом Политбюро ЦК ВПТ, занимал пост министра государственной безопасности. В 1956 недолгое время занимал пост Генерального секретаря ЦК ВПТ. Считается, что если бы Янош Кадар или Имре Надь заменил Ракоши в июле 1956 вместо Герё, венгерской революции можно было бы избежать. Он ушёл в отставку во время Венгерского восстания 1956 г., бежал в СССР. В 1961 году вернулся в Будапешт.
