Первое упоминание о Йосе ван Клеве относится к 1511 г., когда он был принят в антверпенскую гильдию Святого Луки. До этого Йос ван Клеве учился у Яна Юста ван Калкара вместе с Бартоломеусом Брейном Старшим. Он считается одним из самых деятельных художников своего времени. О его пребывании во Франции свидетельствуют его картины и должность художника при дворе Франциска I. Есть факты, подтверждающие поездку Йоса в Италию.
Главные произведения Йоса ван Клеве — два алтаря с изображением Успения Богородицы (в настоящее время в Кёльне и Мюнхене), которые раньше приписывали неизвестному художнику Мастеру жития Марии.
Йоса ван Клеве относят к художникам-романистам. В его приёмах мягкой моделировки объёмов чувствует отголосок влияния сфумато Леонардо да Винчи. Тем не менее многими существенными сторонами своего творчества он крепко связан с нидерландской традицией.
«Успение Богородицы» из Старой пинакотеки некогда находилось в кёльнской церкви девы Марии и было заказано представителями нескольких богатых, родственных между собой кёльнских семей. Алтарная картина имеет две боковые створки с изображением святых-покровителей заказчиков. Центральная створка представляет наибольший интерес. Ван Мандер писал о художнике: «Он был лучшим колористом своего времени, произведениям своим он умел сообщать очень красивую рельефность и чрезвычайно близко к природе передавал цвет тела, пользуясь при этом только одной телесной краской. Его произведения ценились любителями искусства очень высоко, чего они вполне заслуживали».
Сын Йоса ван Клеве Корнелис также стал художником.
