Родился в Риме. Иоанн был сыном Лео, римского пресвитера. Вскоре после его избрания консул Кресценций захватил замок Святого Ангела, папа бежал в Тоскану и оттуда просил помощи у немецкого императора. Приверженцы Кресценция, опасаясь немецкого нашествия, убедили Иоанна вернуться в Рим.
Самым значительным событием в его правлении был его спор с Гуго Капетом по поводу замещения архиепископской кафедры в Реймсе. Иоанн отрешил назначенного королём Герберта д'Орильяка (будущего папу Римского Сильвестра II) и, хотя Герберт подчинился папскому решению, тем не менее Гуго до самой своей смерти держал в тюрьме папского кандидата на реймсскую кафедру.
При Иоанне XV был произведена первая в истории Римско-католической церкви канонизация, совершённая папами римскими: в 993 году на соборе в Латеране к лику святых был причислен Ульрих Аугсбургский.
