На этих методах он воспитывал своих людей и создавал аппарат выяснения настроений и контроля за умами. Возглавив в марте 1931 года секретно-политический отдел НКВД, Агранов по своему разумению тотчас принялся за реорганизацию его. Правда, согласовав с вышестоящим начальником. Получилось просто и довольно эффектно. Всего четыре отделения. Первое занималось антисоветскими настроениями среди членов ВКП(б) и розыском приверженцев Троцкого. Объектами второго были бывшие члены политических и националистических партий (кадеты, меньшевики, эсеры, мусаватисты, дашнаки). Третье работало с религиозными деятелями, руководителями многочисленных сект, с бывшими чиновниками разных дореволюционных правительств, с бывшими чинами армии, полиции и жандармерии, с бывшими помещиками, фабрикантами, купцами, предпринимателями, нэпманами. А четвертое „наблюдало“ интеллигенцию и молодежь. Было и пятое, информационное, питавшееся и от своей сети, и от родственных отделений. Но о нем разговор особый.
Когда Агранов стал во главе секретно-политического отдела, он сразу же поставил вопрос об объединении с информационным отделом. Последний стал частью нового подразделения и превратился в мощную систему сбора политической и социально-экономической информации во всех слоях общества. В нем же накапливались и ждали своего часа сведения о партийных вождях, деятелях промышленности, сельского хозяйства, науки и культуры. Сегодняшние историки поражаются уникальности обзоров политического и экономического состояния советского общества в конце двадцатых – начале тридцатых годов, родившихся под пером аналитиков аграновского отдела. Обзоры составлялись на основе систематических агентурных сводок с мест, содержали огромный фактический материал, представляли широкую панораму социальной, политической и экономической жизни страны „по всему социальному срезу“. Продукцией Агранова пользовались ЦК партии, наркоматы и даже Госплан.
Свое знаменитое письмо „Головокружение от успехов“ о перегибах в коллективизации Сталин писал, озабоченный информацией ОГПУ. Столь впечатляюще убедительной она была, что подвигла вождя изъясниться с народом и партией стилем переживательным, строгим, публицистичным, но и аналитическим. А информация ОГПУ редактировалась Аграновым.
Когда в январе 1935 года отменили карточки и в стране началась свободная продажа хлеба, сотрудники НКВД совершали рейды по магазинам, проверяли ассортимент, цены, время торговли, качество хлеба, наличие очередей, собирали информацию о настроении населения. Рапорты с мест шли в Москву, в наркомат внутренних дел, оттуда – Сталину и Молотову. В первые дни свободной продажи хлеба сводки НКВД были чуть ли не почасовые. Они шли под грифом „совершенно секретно“ с пометкой „хлеб, доложить немедленной Штамп „доложено“ говорил о том, что Сталин имел полную картину о ходе кампании в регионах, высказываниях людей в очередях, фамилиях работников торговли и хлебозаводов, виновных в плохом качестве хлеба, повышении цен, позднем открытии магазинов, рецидивах карточного распределения. Информация была детальной, вплоть до того, какой сорт хлеба отсутствовал в магазине № 5 Первомайского района или был ли хлеб черствым в магазине № 32 Ленинского района.