Детство, юность
Родился в семье землемера. Отец Бобков Денис Никодимович (1904—1944), погиб на Великой Отечественной войне. Мать Бобкова Вера Дементьевна (1902—1925), скончалась в результате послеродовых осложнений.
В детстве из-за командировочной работы отца семья часто переезжала из города в город Украинской ССР, с 1929 года на Донбассе, с 1932 года постоянно жила в городе Макеевка Донецкой области. Когда в начале Великой Отечественной войны немецкие войска подошли к Донбассу, в октябре 1941 года семья была эвакуирована в Кемеровскую область. Жили в городе Ленинск-Кузнецкий, где Филипп Бобков работал на строительстве завода подземной газификации углей. Был избран комсоргом комсомольской организации завода, вскоре стал вторым секретарём городского комитета комсомола.
Великая Отечественная война
С началом войны 15-летним юношей вместе с отцом оказался в городе Ленинск-Кузнецкий в Кузбассе. Трудовой путь начал на строительстве завода подземной газификации углей вблизи станции Кольчугино. На фронт ушёл в составе сибирских добровольческих частей. После того, как на фронт был призван его отец, Филипп Бобков приписал себе возраст в документах и осенью 1942 года добровольцем зачислен в Красную армию. В действующей армии на фронтах Великой Отечественной войны с декабря 1942 года. Был помощником командира взвода, комсоргом стрелкового батальона, командиром взвода. Воевал на Западном фронте, участвовал в Ржевско-Вяземской операции 1943 года, где получил ранение средней тяжести. По выздоровлении сражался в Смоленской наступательной операции, в малоуспешных зимних наступательных боях в Белоруссии зимой 1943—1944 годов. Там был ранен второй раз, причем тяжело — от близкого разрыва мины получил около 40 осколочных ранений. Находился в госпиталях до лета 1944 года, вскоре после его возвращения на фронт умер от ран отец, воевавший с сыном в одной части. В составе войск 2-го Прибалтийского и Ленинградского фронтов принимал участие в Прибалтийской операции и в блокаде Курляндского котла. Завершил боевой путь 9 мая 1945 в Латвии, где была окружена и разбита курляндская группировка.
За годы войны награждён орденом Славы 3-й степени, двумя медалями «За отвагу». Член КПСС с 1944 года.
В органах госбезопасности
По окончании войны Бобков был направлен на учёбу в Ленинградскую школу военной контрразведки «СМЕРШ». По окончании школы в 1946 году ему присвоено офицерское звание и он направлен на работу в центральный аппарат Министерства государственной безопасности СССР в Москву. Впервые пришёл на Лубянку 23 октября 1946 года.
Начинал с должности помощника оперуполномоченного, затем начал двигаться по служебной лестнице. После создания в 1954 году КГБ СССР зачислен в его состав. С 1955 года — секретарь партийной организации управления, с 1956 года — начальник отдела в 4-м управлении КГБ (идеологическая контрразведка). В марте 1956 года участвовал в подавлении волнений в Тбилиси. В том же году окончил Высшую партийную школу при ЦК КПСС, что очень помогло ему в дальнейшей служебной карьере.
После расформирования управления в 1958 году назначен начальником отдела в 2-м управлении КГБ. С 1961 года — заместитель начальника 2-го главного управления КГБ (контрразведка). Генерал-майор (1965).
Во главе 5-го главного управления КГБ
В 1968 году в составе КГБ СССР было создано 5-е управление («идеологическое», позднее «по защите конституционного строя»). Бобков был переведён в него и назначен заместителем начальника этого управления, а с мая 1969 года по январь 1983 года был его бессменным начальником. С 18 января 1983 года одновременно — заместитель Председателя КГБ СССР, с 5 декабря 1985 года — первый заместитель Председателя КГБ СССР. Воинское звание генерал армии присвоено указом Президиума Верховного Совета СССР от 30 ноября 1987 года.