Происходил из дворян Минской губернии; родился в 1794 г. Окончив курс во 2-м кадетском корпусе, Ширмо-Щербинский 2 февраля 1809 г. поступил на службу в 17-й егерский полк.
Участвовал в Турецкой войне 1809—1810 гг., в Отечественной войне 1812 г. и в Заграничных кампаниях 1813 и 1814 гг., за отличие в 1813 г. получил орден св. Анны 4-й степени с надписью «За храбрость».
В 1821 г. за ранами уволен от службы, а в 1822 г. опять вступил в строй. Участвовал в Турецкой кампании 1828—1829 гг., где был сильно ранен; в 1828 г. получил орден св. Анны 3-й степени с бантом. Затем служил в лейб-гвардии Егерском, а потом Финляндском полках.
Принимал участие в усмирении Польского мятежа 1831 г. и был при штурме Варшавы. В 1831 г. был награжден орденом св. Владимира 4-й степени с бантом, а затем, 12 декабря 1832 г. получил орден св. Георгия 4-й степени за беспорочную выслугу 25 лет в офицерских чинах (№ 4689 по списку Григоровича—Степанова).
С 1835 г. Ширмо-Щербинский занимал комендантские должности сначала в Гродно, потом в Белостоке и, наконец, в 1842 г. назначен комендантом в Красное Село, каковую должность занимал до смерти. В 1851 г. произведен в генерал-майоры, а в 1865 г. в генерал-лейтенанты, скончался 22 апреля 1867 г.
