Ранние годы
Родился в Астрахани в еврейской семье сапожника, окончил Астраханское городское училище, в 1900 уехал в Одессу поступать в университет, там в 1901 вступил в РСДРП, участвовал в первой русской революции 1905 года, был членом военного комитета Петербургской, потом финляндской организации РСДРП, способствовал побегу с гауптвахты города Выборга группы военнослужащих, арестованных за бунт, вёл революционную пропаганду. В ноябре 1906 выступал на Таммерфорсской конференции военных и боевых организаций РСДРП. В 1907 году был арестован. По делу Финляндской военной организации РСДРП(б) в сентябре 1909 года Петербургским военно-окружным судом приговорён к 8 годам каторги и сослан в Сибирь.
Карьера в ЧК
После февральской революции 1917 выпущен, переезжает в Иркутск, где работает редактором социал-демократической газеты, а в октябре 1917 становится членом Центрального исполкома советов Сибири, управляющим делами Сибирского СНК, членом сибирской ЧК и членом Военно-Революционного комитета Сибири и Забайкалья. В этом качестве он организовал борьбу с контрреволюцией в Сибири.
До 1921 Трилиссер находился на нелегальной работе в Благовещенске и организовал на Дальнем Востоке систему разведки и конспиративной связи большевиков, создал большую агентурную сеть и снабжал Москву информацией о действиях и планах японцев и белых. После ухода японцев Трилиссер стал секретарём Амурского обкома РКП(б), председателем Амурского областного ревкома и редактором газеты «Амурская правда». После образования в 1921 г. Дальневосточной советской республики его назначили комиссаром ДВР в Амурской области и членом Госполитохраны ДВР.
Начальник ИНО ГПУ
В феврале 1921 Трилиссер участвовал в работе Х съезда РКП(б) в Москве, и Феликс Дзержинский предложил ему работать в центральном аппарате ВЧК, чтобы наладить систему внешней разведки. Трилиссер согласился и поступил в закордонную часть Иностранного отдела (ИНО), с декабря 1921 — помощником начальника ИНО ВЧК, одновременно был заведующим Дальневосточного отдела Исполкома Коминтерна, вёл работу по экспорту революции в Монголию, Китай и сопредельные страны. В марте 1922 Трилиссер назначен начальником Иностранного отдела ГПУ (ИНО ГПУ) вместо С. Могилевского, посланного на Кавказ .
Подбор кадров
На этой должности М. А. Трилиссер организовал всю систему внешней (закордонной) разведки ВЧК-ГПУ, наладил работу резидентур и подобрал кадры советской разведки, в число которых вошли: А. А. Слуцкий, С. М. Шпигельглас, Я. Г. Минскер, А. Нейман, С. Вележев, А. Мюллер, Я. Г. Блюмкин, И. С. Рейсс, С. Гинзбург, Г. Агабеков, М. Аксельрод, И. Герт, Л. Е. Маневич, А. Розенгольц, Л.Л. Фельдбин, З. Нестерович, Э. Гольденштейн, М. Гольдберг и другие чекисты.
Основные операции
Главной целью внешней разведки ВЧК М. А. Трилиссер поставил выявление нахождения, намерений и действий антисоветских и шпионских организаций, базирующихся за границами СССР и противодействие их деятельности. В каждом посольстве, представительстве и торгпредстве были организованы резидентуры, их работникам была предоставлена свобода вербовки агентов, а резиденты имели право включать их в агентурную сеть без согласования с руководством в Москве. Штаты сотрудников закордонной разведки выросли до 70 единиц, и их осведомлённость о намерениях врагов поражает воображение: так, во время подготовки Б. Савинковым и Г. Эльфенгреном покушения на членов советской делегации на конференции в Генуе (организованного английским агентом Сиднеем Рейли на деньги эмигрантского Торгово-промышленного комитета), Трилиссер читал их переписку и знал не только о намерениях террористов, но и где и какие пистолеты они приобрели. При этом Трилиссер не был кабинетным работником, а лично ездил за границу, где устраивал резидентуры и держал непосредственные контакты со своими агентами.