Окончил Университет экономических наук им. Карла Маркса в Будапеште в 1963 году, после чего работал в сфере внешней торговли. В 1994-1996 был послом в Дании, в 1997-2000 — в Германии. С 2000 года также преподавал в нескольких вузах Венгрии. В 2003 году был назначен постоянным представителем страны в Евросоюзе и занимал эту должность до вступления в него Венгрии 1 мая 2004 года, после чего получил должность европейского комиссара по региональному развитию. Сложил полномочия осенью того же года в связи с окончанием деятельности комиссии Романо Проди. Место Балажа как представителя Венгрии занял Ласло Ковач.
16 апреля 2009 года был назначен министром иностранных дел Венгрии.
Балаж является автором нескольких монографий, преимущественно по вопросам европейской политики и её экономическим аспектам. Хабилитированный доктор Будапештской школы экономики (2000), доктор Венгерской академии наук (2003). Кроме венгерского языка, владеет также английским, немецким, русским и французским.
