В 1830-ых годах, будучи старшим чиновником II отделения Собственной Его Величества канцелярии, участвовал в составлении свода местных законов остзейских губерний; в 1851 г. назначен сенатором.
В 1852 г. Капгеру была поручена редакция Военно-уголовного устава, который надо было привести в соответствие с новой (1845) редакцией Уложения о наказаниях. Капгер работал над проектом устава в течение пяти лет. Его итоговый труд представлял полный уголовный кодекс, касающийся не только воинских преступлений, но и общих. Капгер предложил поправки ко многим статьям уложения, например, по вопросу о наказуемости участников преступления, о влиянии опьянения на наказуемость и прочее. Система формальной самостоятельности военно-уголовного законодательства впоследствии была отвергнута; признано было также неуместным в специальном кодексе исправлять недостатки общего, по вопросам, не имеющим специального характера. Несмотря на это, труд Капгера представляется фундаментом, на котором был построен Воинский устав о наказаниях, действовавший вплоть до революции. Объяснительные записки к проекту 1857 г. содержат в себе критику системы устрашения, последовательно проводившейся в военно-уголовном уставе 1839 г., и, в частности, критику системы телесных наказаний. Ввиду отмены в 1863 г. шпицрутенов и ограничения наказания розгами Капгеру пришлось проект переработать. В 1864 г. переработанный проект был внесен на рассмотрение военно-кодификационной комиссии. Здесь, по основному вопросу, Капгер остался в меньшинстве; большинство признало, что Воинский Устав о наказаниях должен заключать в себе лишь изъятия, с соблюдением которых военнослужащие подлежат действию общих законов. Дальнейшее движение проекта прошло уже без непосредственного участия Капгера. Не меньшее участие принимал Капгер и в составлении воинского дисциплинарного устава.
