Сын пастора. Изучал философию, теологию и медицину в Лемго, Хамельне, Люнебурге, Любеке, Данциге, Кракове. В 1681 году обосновался в Швеции.
Был секретарём шведского посольства в Персии; в 1685 поступил в качестве хирурга на крейсировавший в то время в Персидском заливе голландский флот и познакомился с Аравией, Индостаном, Явой, Суматрой, Сиамом и Японией. В Японии он провёл два года.
Наиболее известен Кемпфер своим написанным по-немецки и переведенным на английский язык сочинением «History of Japan» («История Японии»; Лондон, 1727), которое затем появилось на нескольких других языках. Кроме того, он обнародовал «Amoenitatum exoticarum po?tico-politico-physico-medicarum fasciculi V» (Лемго, 1712). Банкс напечатал его «Icones selectae plantarum, quasin Japonia collegit» (Лондон, 1791), Аделунг — извлечение из его «Diarium itineris ad aulam Moscoviticam». Большая часть его ненапечатанных рукописей, богатых важными наблюдениями, хранится в Британском музее.
В честь Кемпфера назван род растений семейства Имбирных — Кемпферия.
