Учился в Парижской консерватории, в частности, окончив в 1852 году органный класс Франсуа Бенуа и класс композиции Жака Фроменталя Галеви. Последний привлёк его к сочинению синагогальной литургической музыки. С 1853 г. был штатным органистом парижской церкви Сен-Мерри, с 1855 года на протяжении 35 лет вёл в Парижской консерватории класс вокального ансамбля, профессор. Ученики этого класса под руководством Коэна участвовали в качестве хора в премьерном исполнении Маленькой торжественной мессы Джоакино Россини (1864). В 1877 г. Коэн возглавил хор Парижской оперы.
Оставил четыре оперы, множество песен и романсов, значительное число духовных хоровых сочинений и произведений для органа и фисгармонии.
