Начал военную карьеру в 57 пехотном полку в Брно. Позже получил под командование бригаду в Италии, боролся против повстанцев в Праге в 1848 году. В 1859 воевал в Моравии и Силезии и вернулся в Брно в 1860. Носил звание фельдмаршал-лейтенанта австрийской армии.
18 апреля 1854 в Вене Карл Фердинанд женился на эрцгерцогине Елизавете Франциске (1831—1903), дочери эрцгерцога Иосифа и вдове эрцгерцога Фердинанда Австрийского-Эсте, герцога Модены. Когда Карл Фердинанд умер, его детей в 1874 году усыновил его брат, фельдмаршал эрцгерцог Альбрехт. Дети:
- Франц Иосиф (1855)
- Фридрих (1856—1936), главнокомандующий австро-венгерской армией во время Первой мировой войны;
- Мария Кристина (1858—1929), супруга короля Испании Альфонса XII;
- Карл Стефан (1860—1933), гросс-адмирал;
- Ойген (1863—1954), великий магистр Тевтонского ордена;
- Мария Элеонора (1864).