У Михаила Томского – одного из участников заговора не выдержали нервы. Он застрелился, а перед этим написал письмо Сталину: «Если хочешь узнать правду, поговори с моей женой».
Жену Томского опросил секретарь ЦК ВКП (б) Николай Ежов. Теперь у Сталина были не агентурные донесения, а свидетельские показания. В сентябре 1936 года начались аресты заговорщиков. Генриха Ягоду сняли с поста наркома НКВД, и арестовали. На его место Сталин назначил Николая Ежова.
Ягода был умён и амбициозен, а Ежов тихий, недалёкий, исполнительный. Сталин решил, что на посту наркома внутренних дел он будет безопасен. То, что Николай Ежов был алкоголиком, Иосифа Виссарионовича не смущало. Ежов начал «чистить» аппарат НКВД от подельников Ягоды. Были арестованы почти все, уцелеть смогли двое: Михаил Фриновский и Генрих Люшков. Более того, они умудрились втереться в доверие к Ежову. Впрочем, это было несложно, ведь новый нарком внутренних дел был глупым алкоголиком. Ежов назначил Фриновского начальником ГУГБ НКВД.
Фриновский лично провёл первый допрос Ягоды. Он передал ему записку, в которой писал, что если бывший нарком утаит от следствия факт участия Фриновского в заговоре, ему сохранят жизнь. Генрих Ягода честно выполнил условия договора, за что и был расстрелян. Фриновский уничтожил всех, кто мог рассказать о его участии в заговоре.
Николай Ежов покончив с заговорщиками запил, и всеми делами в НКВД заправлял Фриновский. Начальником внешней разведки был Слуцкий, он не входил в число заговорщиков, потому репрессии его не коснулись. Но Фриновский знал, что Абрам Аронович ищет следы заговора. Он опасался, что начальник внешней разведки ГУГБ найдёт доказательства его причастности к заговору. Фриновский понимает, нужно убрать Слуцкого. Но делать это необходимо осторожно. Фриновский решает сначала обвинить Слуцкого в работе на Абвер, потом снять его с должности начальника внешней разведки, и неспеша «лепить» доказательства в его шпионской деятельности. Фриновский 17 февраля 1938 в своём кабинете публично обвиняет Слуцкого в работе на Абвер. При этом разговоре присутствовали начальник ГУГБ НКВД по Московской области Леонид Заковский и заместитель начальника двенадцатого отдела (оперативная техника) ГУГБ НКВД Михаил Алёхин. В ответ Абрам Аронович заявил, что у него есть агентурные данные о причастности одного из руководителя ГУГБ НКВД к заговору Ягоды. Фриновский сообразил, что речь идёт о нём.