В 20-х годах в ГПУ разведкой (ИНО) после недолгого руководства ею Соломона Могилевского, переведенного уже в мае 1922 года в начальники ГПУ по всему Закавказскому краю, долго руководил Меир Трилиссер. Оба были не только из первой когорты чекистов Дзержинского в ЧК, но и из большевиков-подпольщиков с дореволюционным стажем. Трилиссер был в РСДРП вообще с 1901 года, прошел каторгу и одиночку в Шлиссельбургской крепости, ссылку в Сибирь на вечное поселение, в Гражданскую войну служил в ЧК и в Дальневосточной республике Советов возглавлял замаскированный другим названием здешний филиал ЧК – так называемую «Госполитохрану». Назначенный в 1922 году, Трилиссер руководил ИНО ГПУ до 1929 года, пока из-за трений с Ягодой и ультралевые взгляды его не отправили работать в Коминтерне, в 1938 году Трилиссер на этой должности арестован, а в 1940 году расстрелян.
В Большой террор уничтожены и работавшие после него в 30-х годах Артузов, Шпигельгласс и Пассов. Из начальников внешней разведки ГПУ этих лет не репрессированы только Могилевский, погибший еще в 1925 году в авиакатастрофе в должности главы ГПУ в Закавказье, и Слуцкий, то ли умерший до ареста в разгар сталинских чисток, то ли принявший яд в страхе перед арестом, то ли тихо отравленный своими сослуживцами. Та же участь расстрела с клеймом врага советской власти постигла и основателя Разведупра РККА Яна Берзина, возглавлявшего военную разведку СССР все 20-е годы, да и сотни рядовых сотрудников разведки ГПУ и Разведупра.
Силовые акции за границей
В 20-х годах ИНО ГПУ продолжала успешно начатую еще ВЧК практику силовых расправ с наиболее опасными для Советского Союза эмигрантскими лидерами. В Китае в результате изощренной операции засланными чекистами захвачен атаман Анненков, правнук известного поэта-декабриста, заметная фигура в казачьей белой эмиграции, по типажу очень схожий с атаманом Дутовым, с убийства которого ЧК в китайских пределах стартовала такая кампания.
Операция против Анненкова была вызвана той же ненавистью в ГПУ к атаману сибирских казаков и колчаковскому генералу, отличавшемуся в 1919–1920 годах особой жестокостью к пленным красноармейцам и партизанам, руководившим у Колчака карательными рейдами, а в эмиграции развернувшему активную деятельность по заброске офицерских групп белых террористов в СССР.