Гузенбауэр был председателем Комитета по развитию сотрудничества с 1996 по 1999 гг. В 2000 году он стал лидером Социал-демократической партии Австрии (SP?) в Бундесрате и генеральным секретарём партии. В 2002 году он проиграл на выборах действующему канцлеру Вольфгангу Шюсселю. В 2006 году Гузенбауэр был вовлечен в скандал с фирмой BAWAG. Австрийский банк владевший Австрийской федерацией торговли (?sterreichischer Gewerkschaftsbund, ?GB) было вовлечен в это дело, Гузенбауэр был обвинен в коррупции, и спекуляции. Партию это не взволновало. Гузенбауэр остался лидером партии и кандидатом от SP?, хоть и подвергся критике.
После победы на выборах в 2007 году возглавил правительство большой коалиции Социал-демократической партии Австрии и Австрийской народной партии, просуществовавшее лишь полтора года. Из-за постоянных разногласий между союзниками по правящей коалиции и внутрипартийной борьбы в Социал-демократической партии Австрии в июне 2008 было объявлено о распаде коалиции и проведении 28 сентября 2008 досрочных парламентских выборов. 16 сентября 2008 Гузенбауэр объявил о своей отставке с поста лидера Социал-демократической партии Австрии. Партию возглавил Вернер Файман.
10 ноября 2008 года Альфред Гузенбауэр стал лауреатом международной премии «Диалог Цивилизаций» — «за укрепление мира и взаимопонимания между народами».
