Председатель ГПУ при НКВД РСФСР – ОГПУ при СНК СССР (февраль 1922 – июль 1926). Возглавляя в начале 1923 года комиссию ЦК по расследованию конфликта между Закавказским крайкомом и грузинскими коммунистами, оправдывал нейтралистскую линию крайкома и его председателя Г. К. Орджоникидзе, как отвечающую директивам ЦК. По решению партии занимал также и командные посты в народном хозяйстве страны. Сначала был наркомом путей сообщения (апрель 1921 –февраль 1924). О ситуации в отрасли Дзержинский писал в 1923 г.: «На дорогах у нас в области хищений и бесхозяйственности один сплошной ужас… Хищения из вагонов, хищения в кассах, хищения на складах, хищения при подрядах, хищения при заготовках. Надо иметь крепкие нервы и волю, чтобы преодолеть все это море разгула» и добавлял: «Суровые кары вплоть до высшей меры наказания-расстрела будут применяться не только к непосредственным участникам в хищении на транспорте, но и к пособникам, и скупщикам краденого». Он немало сделал для наведения в отрасли революционного порядка, укрепления трудовой дисциплины, ликвидации бесхозяйственности и расхлябанности.
Он успешно боролся и с детской беспризорностью, будучи председателем Комиссии при ВЦИК по улучшению жизни детей (январь 1921 – ноябрь 1923). Тогда по официальным данным примерно пять миллионов детей являлись беспризорными. Способствовал организации системы детских учреждений – приемников-распределителей (временного пребывания), детских домов, «коммун» и детских «городков». В этих учреждениях обездоленные дети получали медицинское обслуживание, образование, питание и, самое главное, возможность дальнейшей самореализации. Восемь бывших беспризорников стали впоследствии академиками АН СССР.
При его поддержке было создано существующее и поныне добровольное спортивное общество «Динамо». 18 апреля 1923 г. состоялось его учредительное собрание. Дзержинского избрали почетным председателем ДСО. В качестве тренеров были привлечены лучшие спортивные кадры Москвы. К 1926 г. спортивное общество «Динамо» включало более 200 ячеек.
Кандидат в члены Политбюро ЦК РКП(б) – ВКП(б) (1924–1926), занимал пост председателя ВСНХ СССР (февраль 1924 – июль 1926). Считал основным фактором развития промышленности «ориентацию на широкий крестьянский рынок» и подчеркивал, что «нельзя индустриализироваться, если говорить со страхом о благосостоянии деревни», выступал за развитие мелкой частной торговли, за то, чтобы поставить частного торговца «в здоровые условия», защитив его от местных администраторов. Стремился снизить себестоимость продукции и цены на изделия промышленности путем опережающего роста производительности труда по отношению к заработной плате.