Занимал министерские посты в правительстве Хосе Марии Аснара, с 28 февраля 2000 до 3 сентября 2003 года — вице-президент правительства, с февраля 2001 по 2004 год — министр внутренних дел. После поражения партии на выборах 17 апреля 2004 года возглавил оппозицию в кортесах.
В 2008 году проиграл парламентские выборы социалистам во главе с Хосе Луисом Родригесом Сапатеро.
На состоявшихся 20 ноября 2011 года всеобщих парламентских выборах Народная партия Испании под его руководством одержала победу, получив 186 из 350 мест в нижней палате.
Образование
Рахой — внук одного из авторов Устава автономии Галисии 1932, который был отстранён от преподавательской деятельности в университете во время диктатуры до начала пятидесятых, и сын председателя провинциального суда города Понтеведры, в котором он вырос.
Он является дипломированным юристом. На последнем курсе юридического факультета университета Сантьяго-де-Компостела он начал готовиться, планируя занять должность регистратора недвижимости, которую и получил после окончания университета, когда ему было 24 года. Таким образом, он стал самым молодым регистратором и был назначен в Падрон (Галисия), Вильяфранка-дель-Бьерсо (Леон) и Санта-Пола (Аликанте).
Галисийская политика (1981—1991)
При поддержке Хосе Луиса Баррейро (Xos? Luis Barreiro) в 1981 Рахой стал членом Народного альянса (Alianza Popular) (с 1989 года Народная партия и был избран депутатом местного парламента на первых автономных выборах в Галисии, прошедших в том же году.
В 1982 году Рахой был назначен генеральным директором комитета по связям Правительства Галисии и секретарем комиссии по трансфертам между государством и автономным сообществом Галисия. На муниципальных выборах в мае 1983 года он был избран членом законодательного совета города Понтеведры. В 1986 году он был назначен председателем законодательного совета провинции Понтеведра, и занимал эту должность до 1991 года.
На всеобщих выборах в 1986 году он получил депутатский мандат в Конгрессе депутатов, возглавив избирательный список от Понтеведры. Но уже в ноябре в результате кризиса и отставки Хосе Луиса Баррейро и остальных членов Хунты Галисии он вынужден был отказаться от этой должности, чтобы занять место вице-президента Правительства Галисии. На внеочередном съезде партии в мае 1988 года Рахой был назначен генеральным секретарем отделения Народного альянса в Галисии.
В январе 1989 года Народный альянс был преобразован в единую партию и переименован в Народную партию (НП), возглавляемую Мануэлем Фрагой Ирибарне. Рахой был назначен членом исполнительного национального комитета Народной партии и представителем Понтеведры. В 1993 году он был переизбран.
4 сентября 1989 года Хосе Мария Аснар (до того момента председатель Хунты автономного сообщества Кастилия и Леон), по предложению самого Фраги был избран кандидатом на всеобщих выборах и в апреле 1990 года. Аснар стал председателем Народной партии, а Рахой был избран членом Национального исполнительного комитета и заместителем генерального председателя НП. После этих выборов он был избран представителем от Понтеведры и возглавил Комиссию парламентского контроля.
На выборах 1993 года Народная партия стала главной партией лагеря оппозиции, и Рахой вернул себе депутатский мандат представителя от Понтеведры.
