Родился 30 ноября 1807 г. и, по окончании блестящего домашнего образования под руководством тетушки своей, Анастасии Михайловны Щербининой, дочери знаменитой княгини Дашковой, в 1825 г. поступил на службу под непосредственное начальство графа Михаила Семёновича Воронцова (бывшего в то время Новороссийским генерал-губернатором и полномочным наместником Бессарабской области), лично предложившего во время проезда через Москву своей двоюродной сестре, А. М. Щербининой, определить Михаила Павловича на службу в свою гражданскую канцелярию. Предложение это было принято с радостью, и Щербинину таким образом выпала завидная доля с самого начала его служебного поприща и затем в течение долгого времени иметь своим ближайшим руководителем одного из замечательнейших людей России XIX столетия, проявившего себя выдающейся гражданской и военной деятельностью.
По этой же причине и Щербинину, хотя посвятившему себя гражданской службе, пришлось испытать боевую жизнь и сопряжённые с нею опасности. Почти при самом начале службы он участвовал при осаде Варны и находился во всех главных военных действиях на Кавказе во время управления этим краем князя Воронцова. В знаменитом деле при Дарго Щербинин показал пример личного мужества и неустрашимого самоотвержения, за что 9 августа 1845 г. был награждён чином действительного статского советника.
Гражданская деятельность Щербинина была чрезвычайно разносторонней. Он два раза принимал непосредственное участие в борьбе с чумой в Севастополе (в 1830 г.) и Одессе (в 1829 и 1837 гг.); в 1841 г. прилагал старания к выполнению мер, принятых для устройства плавания по Дунаю, и оказал содействие при устройстве Виртембергских колоний в Новороссийском крае, а впоследствии и на Кавказе.
В 40-х годах он исполнял обязанности секретаря Императорского общества сельского хозяйства южной России; затем состоял директором главного статистического комитета Новороссийского края, а в 1852 г. ему был поручен главный надзор за изданием кавказского календаря.
В 1856 г. Щербинин оставил службу на Кавказе по случаю назначения его сенатором. В этом же году он был произведён в тайные советники и назначен присутствовать в 7-м департаменте Правительствующего сената. Перемещённый в том же году в Межевой департамент, Щербинин в 1858 г., по Высочайшему повелению, был назначен на ревизию Витебской губернии по случаю неприязненных отношений между губернатором и губернским предводителем дворянства Юрьевичем, а также по случаю стремления помещичьих крестьян к отпадению от православия и перехода их в католичество. По окончании ревизии Щербинин был перемещён в 4-й департамент, а в 1859 г. — в 1-й.
В 1860 г. он был назначен членом Главного управления цензуры и председателем Московского цензурного комитета, с назначением присутствовать во 2-м отделении 6-го департамента. Сверх обязанностей по Сенату и по цензурному комитету, Щербинину, вследствие предложения председателя Московского опекунского совета, князя Н. И. Трубецкого, назначен был почетным опекуном и вместе с тем заведующим Павловской больницей. Когда же выяснилась необходимость в изменении системы цензурного надзора за книгопечатанием и в применении к нему карательного законодательства и приступлено было в Санкт-Петербурге к составлению проекта устава книгопечатания, внесённого на рассмотрение Государственного совета, Щербинин был призван участвовать в обсуждении проектированных правил. Устав удостоился Высочайшего утверждения 6 апреля 1865 г., а 30 августа того же года на Щербинина было возложено звание начальника Главного управления по делам печати, с оставлением сенатором и почетным опекуном; в звании этом он состоял до 2 декабря следующего года, когда был уволен, согласно прошению, с производством в действительные тайные советники.