Получил диплом бакалавра по программированию во Флоридском Атлантическом Университете (Florida Atlantic University) в 1978 году. В течение 20 лет работал программистом, специализируясь на криптографии и безопасности данных, на технологиях по передаче данных, а также на встроенных системах реального времени.
В 1991 году опубликовал исходный текст PGP в Интернете. В течение трёх лет против Циммерманна проводилось уголовное преследование, так как по мнению правительства США, неограниченное распространение технологии PGP нарушало закон США об ограничении экспорта криптографического программного обеспечения.
В начале 1996 года, Циммерманн основал компанию PGP Inc., которая была продана Network Associates Inc (NAI) в декабре 1997 года, и позднее, в августе 2002 года — вновь основанной компании PGP Corporation.
Циммерманн состоит в Международной Ассоциации Криптографических Исследований (the International Association of Cryptologic Research), Компьютерной Ассоциации (the Association for Computing Machinery) и Лиге Свободы Программирования (the League for Programming Freedom). Филипп участвует в совместном проекте Национальной Академии и Центра Стратегических и Интернациональных Исследований — Roundtable on Scientific Communication and National Security. Он также является президентом OpenPGP альянса, входит в совет директоров организации Computer Professionals for Social Responsibility и консультативный комитет организаций Anonymizer.com, Hush Communications и Qualys.
