Ранние годы
Император Фридрих I Барбаросса с детства готовил Филиппа, своего младшего из сыновей, к духовной карьере, в итоге он получил очень хорошее образование. В 1189 году Филипп был назначен пробстом церкви Святой Марии Ахене, а в 1190 году был избран епископом Вюрцбурга, однако не рукоположен.
Но в 1191 году умер во время Третьего крестового похода один из старших братьев Филиппа, герцог Швабии Фридрих VI, ещё раньше, в 1190 году утонул его отец, император Фридрих, после чего императорский престол достался старшему из братьев, Генриху VI.
У Фридриха Швабского детей не было, так что Швабию Генрих VI передал следующему по старшинству брату Конраду II, до этого — герцогу Ротенбурга. Ещё один брат, Оттон, управлял Бургундским пфальцграфством, где увяз в борьбе со знатью, показав себя малоспособным правителем. С учетом того, что никто из старших братьев не имел сыновей, это открывало перед Филиппом неплохие перспективы.
Зимой 1191/1192 года Филипп отрекся от духовного достоинства и отказался от Вюрцбургской епархии, где вместо него епископом был рукоположен Генрих III Бергский. Император Генрих пошёл ему навстречу и в 1193 году Филиппу было разрешено стать мирянином. Однако в 1194 году у Генриха родился сын Фридрих, что отдалило Филиппа от трона.
В 1195 году император Генрих передал Филиппу в лен Тосканское маркграфство, имевшую важное стратегическое значение для империи, поскольку через него пролегала дорога в Рим и Южную Италию, входившую в состав Сицилийского королевства, которым Генрих овладел в 1194 году. А после смерти в 1196 году Конрада II Швабского Филипп получил и его владения — герцогство Швабию.
25 мая 1197 года Филипп женился на Ирине Ангелине, дочери императора Византии Исаака II Ангела, вдове сицилийского принца Рожера V, герцога Апулии, с которой он был обручён 2/3 апреля 1195 года. Вскоре после этого, 28 сентября 1197 года неожиданно умер император Генрих. В последние годы своей жизни он пытался сделать императорскую корону наследственной, что встретило сопротивление германских феодалов и духовенства. Наследнику Генриха, Фридриху, было только 3 года. Его мать, королева Констанция, для того, чтобы обеспечить своему сыну сицилийскую корону, выгнала всех германских сподвижников своего мужа. В итоге Сицилийское королевство, королём которого 3 сентября 1198 года был коронован четырёхлетний Фридрих, снова обособилось от империи.
Двойные выборы германского короля
В момент смерти брата Филипп находился в Италии, собираясь забрать сына Генриха Фридриха и отвести его в Германию. Узнав о случившемся он был вынужден оставить племянника в Сицилии, а сам с большим трудом смог добраться в Германию. Там он довольно быстро понял что отстаивать права племянника ему будет трудно. Сторонники Гогенштауфенов убедили его принять корону самому. 6 марта 1198 года в Ихтерсхаузене, а затем 8 марта на съезде знати в Мюльхаузене Филипп был избран королём Германии (римским королём). 6 сентября он был коронован в Майнце архиепископом Тарентеза Эмо.
Однако к тому моменту у Филиппа появился соперник. Противники Гогенштауфенов, возглавляемые архиепископом Кёльна Адольфом Альтенским обвинили Филиппа в том, что он нарушил присягу своему племяннику и выдвинули своего кандидата. Им оказался представитель династии Вельфов Оттон Брауншвейгский, младший сын Генриха Льва, лишённого императором Фридрихом большей части своих владений. Матерью Оттона была английская принцесса Матильда, а сам он был воспитан при английском дворе, где жил с восьмилетнего возраста. Его дядя, король Англии Ричард I Львиное Сердце, передал Оттону в 1196 году в ленное владение графство Пуатье.
9 июня в Кёльне противники Гогенштауфенов выбрали королём Германии Оттона, а 12 июля архиепископ Адольф короновал его в Ахене. Таким образом в Германии оказалось одновременно 2 правителя. Филипп был коронован подлинными королевскими регалиями, но в «неправильном месте» (Майнце вместо Ахена) и «неправильным» архиепископом (Тарантеза, а не Кёльна), однако при коронации «правильным» архиепископом в Ахене Оттона Брауншвейгского не использовались подлинные регалии. Оттона поддерживал его дядя Ричард Английский, в то время как Филипп обратился за поддержкой к королю Франции Филиппу II Августу, враждовавшему с Англией.