Родился в 1771 году. Происходя из семьи священника, он получил образование в Московской духовной академии, а потом обучался в Московском университете и вступил на службу в 1785 г. кадетом в Оренбургский драгунский полк.
Находясь на Оренбургской пограничной линии, он неоднократно участвовал в походах на киргиз-кайсаков. 11 декабря 1787 г. Болгарский в чине прапорщика был назначен адъютантом к генерал-поручику Игельстрому, оставаясь при котором до 1796 г., занимал последовательно должности: военного секретаря, адъютанта и управляющего военно-походной канцелярией. В течение этого времени он принимал участие в войне со Швецией 1790 г. (сражался под Пардокоски и Керни) и в 1794 г. — с Польшей, причём, тяжело раненый под Варшавой, был взят неприятелем в плен и освободился лишь через 7 месяцев. В бытность генерала Игельстрома начальником над Оренбургским краем Болгарский находился в делах при усмирении киргиз-кайсаков Меньшей Орды и тогда же способствовал учреждению в орде правильного судопроизводства и развитию торговых сношений с Бухарой и Хивой.
29 января 1796 г. Болгарский был переведен в Нижегородский драгунский полк, участвуя с которым в войне с Персией, находился при осаде и взятии Дербента и при занятии многих провинций, а также полуострова Камышевки, за что пожалован в премьер-майоры, с переводом в конно-гренадерский Военного Ордена полк.
В декабре 1797 г. Болгарский был уволен от военной службы в чине коллежского асессора и причислен к Герольдии, а вскоре за тем к Государственному вспомогательному для дворянства банку. 2 сентября 1804 г. Болгарский определен на должность Вятского гражданского губернатора, в которой особенно отличился при усмирении юскинской вотяцкой волости и быстрым сформированием милиции по Вятской губернии. По донесениям сенатора Рунича, ревизовавшего губернию в 1808 г., он был уволен от должности с преданием суду, но Сенатом и Государственным советом найден совершенно невиновным, и 9 августа 1818 г. было Высочайше повелено зачесть все время нахождения его под судом в действительную службу.
В 1819 г. Болгарский назначен членом в комитет по устройству войска Донского. На этом посту Болгарский раскрыл значительные злоупотребления по питейным откупам и войсковому хозяйству. За время своей деятельности на Дону Болгарский возбудил сильнейшее негодование А. П. Ермолова, который в своих письмах А. А. Закревскому характеризовал Болгарского как «величайшего из разбойников, который, по старой привычке, грабил и на Дону». В свою очередь, А. И. Чернышёв высоко ценил Болгарского и долгое время протежировал ему.
В 1822 г. Болгарский был назначен директором департамента Государственных имуществ, а 21 апреля 1823 г. определён сенатором.
Занимая в последнем звании различные должности, он, между прочим, состоял с 1831 г. по 1841 г. председателем медицинского совета Министерства внутренних дел, с 1835 по 1836 г. — в командировке для приведения в действие нового Положения об управлении областью Войска Донского, с 1841 г. — первоприсутствующим в общем собрании Сената и с 1843 г. — членом общего собрания первых трех департаментов; кроме того, в 1837 г. он произвёл ревизию Департамента Государственных имуществ и по окончании работ ревизии он был пожалован 2 апреля 1838 г. в чин действительного тайного советника.
Умер 7 марта 1848 г.
