Родом из бедной семьи. В 1921 г. вступил в Компартию Чехословакии. Во время 2-й мировой войны участвовал в подпольной деятельности КПЧ, в 1941—1945 — в заключении в концлагере Маутхаузен.
В 1945—1951 1-й секретарь Пражского горкома КПЧ. В 1946—1968 член ЦК КПЧ. С 1951 член Президиума ЦК КПЧ, а с 1953 — 1-й секретарь ЦК КПЧ. После смерти К. Готвальда, однако, пост 1-го секретаря на некоторое время утратил политическое значение, и Новотный считался 2-м человеком в Чехословакии после президента А. Запотоцкого. Будучи по натуре консерватором, был вынужден проводить меры по смягчению режима, построенного по сталинской модели, которая при нём всё заметнее терпела крах, особенно в экономической сфере. В 1960 объявил широкую амнистию политзаключённым, и одновременно заявил об «окончательном построении социализма» в Чехословакии, в связи с чем страна была переименована в ЧССР.
Был причастен к репрессиям 1950-х, поэтому затягивал реабилитацию некоторых репрессированных политических деятелей. В 1967 подвергся критике со стороны писателей и студентов за затягивание пересмотра таких политических процессов прошлых лет, как дело Сланского, за непоследовательное проведение экономической реформы. Разгон демонстраций и собраний, нежелание менять автократический стиль управления, игнорирование требований словаков о введении федеративного устройства государства привели к возникновению «антиновотовской» оппозиции в ЦК КПЧ. С октября 1967 по январь 1968 с перерывами проходил пленум, основным вопросом которого было законность совмещения двух и более должностей. 4 января 1968 Новотный был снят с поста первого секретаря ЦК КПЧ. Новым 1-м секретарём ЦК КПЧ 5 января был избран А. Дубчек.
Оставаясь президентом ЧССР и членом ЦК КПЧ, Новотный представлял консервативное большинство партии и старался препятствовать проведению реформ. Попытки вызвать среди рабочих негативное отношение к «буржуазным» реформам не увенчались успехом. Деятели культуры и молодежь, видевшие в его лице главную преграду на пути демократизации, требовали его отставки. 28 марта 1968 подал в отставку со всех постов. Новым президентом ЧССР стал Л. Свобода. Отставка Новотного была началом Пражской весны.
