Отец хотел сделать из Антона пианиста, однако в девять лет он самовольно перешёл на скрипку. Окончил Центральную музыкальную школу в Москве, затем Московскую консерваторию по классу скрипки А. И. Ямпольского, занимался также дирижированием у Николая Аносова. Согласно доносу матери Шароева, обращённому в ЦК ВЛКСМ (1950), причиной недостаточно успешной сольной карьеры Шароева стало засилье евреев в Московской консерватории.
В 1948—1956 гг. играл вторую скрипку в Квартете имени Чайковского вместе с Юлианом Ситковецким, Рудольфом Баршаем и Яковом Слободкиным. В 1963—1969 гг. и затем вновь в 1976—1987 гг. возглавлял Киевский камерный оркестр.
В 1998 г. стал первым руководителем созданного в Тюмени камерного оркестра «Камерата Сибири». Широкий резонанс получили осуществлённые Шароевым концертные исполнения забытой оперы Дмитрия Бортнянского «Алкид» (1984, Киев) и духовной оперы Антона Рубинштейна «Христос» (2001, Тюмень), партитуру которой ему удалось разыскать в Германии; телерадиокомпанией «Регион-Тюмень» снят об этом документальный фильм. 12 декабря 2008 г. в Перми под управлением Шароева прошла мировая сценическая премьера этого произведения.
Заслуженный деятель искусств России (2005).
