Джонсон изучал историю и философию в Гарварде, но в 1928 г. весь ход его жизни изменила встреча с Людвигом Мисом ван дер Роэ. По возвращении из поездки по Европе Джонсон первым познакомил американцев с теоретическими построениями Миса, Гропиуса и Ле Корбюзье — архитекторов, для обозначения стилевой принадлежности которых Джонсон при составлении каталога Музея современного искусства в 1932 г. ввел в оборот термин «интернациональный стиль».
Став во главе архитектурного подразделения Музея современного искусства, Джонсон способствовал пропаганде архитектурного модернизма в Америке, написал обстоятельную монографию о Мис ван дер Роэ и убедил его перебраться в США. На территории своей усадьбы в штате Коннектикут он воплотил принадлежащие Мису идеи архитектурного минимализма при проектировании «Стеклянного дома» (1949). С этого времени он начал работать как архитектор-практик, создав вместе с Мисом такой яркий образец «интернационального стиля», как небоскрёб Сигрем-билдинг в Нью-Йорке (1956).
По мере падения популярности «интернационального стиля» в 1960-е гг. Джонсон адаптировался к новым веяниям. В его проектах появляются изогнутые линии и аллюзии к историческим архитектурным стилям, свойственные постмодерну. В 1968 г. вместе с Джоном Берджи основал собственное архитектурное бюро. Совместные проекты Джонсона и Берджи многочисленны — это и здание корпорации «Сони» в Нью-Йорке (1984), и Уильямс-Тауэр в Хьюстоне (1983), и Липстик-билдинг на Манхеттене (1986), и Ворота Европы в Мадриде (1996).
