Родился в рабочей семье, отец — экскаваторщик. Начинал кататься на Стадионе юных пионеров. Тренировался у Т. А. Толмачевой. Первые успехи пришли в 1970 когда он стал вторым на турнире «Московские коньки» и пятым на чемпионате СССР. После второго места на турнире «Московские коньки» в декабре 1971, попадает в сборную, неожиданно на чемпионате мира 1972 занимает третье место, удачно исполнив обязательные фигуры и произвольную программу, покорив канадских зрителей. В апреле 1972 в Минске выигрывает и чемпионат СССР. Однако затем Ковалев нарушил спортивный режим и был отстранен от соревнований на сезон 1972/73. В 1973 перешел тренироваться к С.Четверухину, который резко изменил тренировки и стиль катания, однако к успеху это не привело. Уже на следующий сезон вернулся к Т. А. Толмачевой, помогать тренироваться стала Е. А. Чайковская. Этот тренерский тандем сразу привел к успеху — в январе 1975 Ковалев стал первым советским чемпионом Европы. С 1977 тренер — Е. А. Чайковская, приведшая Ковалева к двум победам на чемпионатах мира (1977 и 1979), в 1979 в короткой программе — единственный из лидеров исполнивший каскад двойной флип — тройной тулуп. На Олимпиаде-80 после 5-го места в фигурах выбыл из соревнований по болезни (американцы выдвигают версию о скандале на пресс-конференции).
Ковалев очень удачно выступал в обязательных фигурах создавая преимущество, в произвольных программах был менее стабилен (на обоих выигранных им чемпионатах мира в произвольном катании был 3-м и 4-м). Владел тремя разными тройными прыжками (тулуп, сальхов и риттбергер). Чайковская всегда старалась создать яркие по постановке программы, интересные костюмы.
После завершения карьеры в 1980 стал тренером, не прерывая сотрудничества с Чайковской. Наиболее известен по работе с Кирой Ивановой, с которой у него сложились и личные отношения. Недолгое время тренировал и Марию Бутырскую.
В 1990-е годы уехал из России и работал тренером в Греции. Сейчас живёт и работает в Москве.
Заслуженный мастер спорта СССР (1975).
