Место рождения де Сермизи неизвестно, но в молодости он был связан с королевской капеллой Сент-Шапель. В 1510 году был солистом в часовне Анны Бретонской, а после её смерти при дворе Людовика XII, а затем Франциска I. Вместе с Жаном Мутоном (фр. Jean Mouton) пел на похоронах Людовика XII, во время встречи папы Льва X и Франциска I (1515 год) и во время встреч Генриха VIII и Франциска I (1520 и 1532 гг.). В 1533 году стал заместителем придворного капельмейстера и до конца жизни был связан с часовней Сент-Шапель где и был похоронен.
Автор тринадцати циклов и нескльких отдельных месс, десяти магнификатов, реквиема, страстей на текст Св. Матфея, 78 мотетов, оплакивания и 175 песен.
Мессы «Missa Domine quis habitabit», «Missa Domini est terra», «Missa Quarefremuerunt gentes» и «Missa Tota pulchra es» основаны на его собственных мотетах, месса «Missa plurium motetorum» представляет собой компиляцию музыки разных композиторов, а «Missa Novem lectionum» на григорианских песнопениях. Мотеты де Сермизи были очень популярны при его жизни и часто исполнялись при королевских дворах.
