Родился 27 декабря 1777 г. в Москве, происходил из дворян Орловской губернии. Оставшись малолетним сиротой под опекой дяди, учился в московском пансионе Бартоли. Записанный в 1786 г. унтер-офицером в лейб-гвардии Конный полк, он 27 января 1797 г. был произведён в корнеты Сумской гусарский полк и в 1799 г., в составе корпуса Римского-Корсакова, принял участие в Швейцарском походе.
Переведённый в 1801 г. в Кавалергардский полк, Ершов участвовал в кампании 1807 г., в том числе и в сражениях при Гейльсберге, Гуттшдадте и Фридланде. 24 июня 1809 г. был произведён в полковники.
В Отечественную войну Ершов, командуя запасным эскадроном Кавалергардского полка, был назначен в состав сводного кирасирского полка, при корпусе графа Витгенштейна, и 6 августа в сражении под Полоцком произвёл с дивизионом кирасир блестящую атаку на батарею, захватив 15 орудий, за что был 4 сентября награждён орденом св. Георгия 4-й степени (№ 2424 по списку Григоровича—Степанова и № 1057 по списку Судравского)
Участвуя затем при взятии Полоцка и в боях при Чашниках, Смолянах, Лукомле и Березине, был награждён орденами св. Анны 2-й степени, св. Владимира 3-й степени и бриллиантами к ордену св. Анны 2-й степени. В начале 1813 г. его эскадрону был пожалован Георгиевский штандарт с надписью: «3а отличие при поражении и изгнании неприятеля из пределов России 1812 года».
В 1813 г. Ершов вступил в командование кавалергардами и во главе их участвовал в заграничных походах и сражениях при Люцене, Бауцене, Дрездене и Кульме и за боевые отличия был 15 сентября произведён в генерал-майоры (со старшинством с 17 августа 1813 г.). Командированный затем в Польскую армию, Ершов, находясь в отряде генерала Чаплица, участвовал в блокаде Модлина и Гамбурга.
Назначенный в 1815 г. командиром 2-й бригады 4-й драгунской дивизии, он был перемещён в 1817 г. на ту же должность в 1-ю драгунскую и затем в 1821 г. во 2-ю кирасирскую дивизии. 29 марта 1825 г. Ершов был назначен начальником 2-й кирасирской дивизии и 22 августа следующего года был произведён в генерал-лейтенанты. 19 декабря 1827 г. он был зачислен по кавалерии, а 16 декабря 1833 г. уволен от службы с мундиром и сохранением полного жалования.
Среди прочих наград имел прусский орден «Пур ле мерит» и Кульмский крест.
Умер 18 января 1852 г. в селе Алешне Болховского уезда Орловской губернии.
