В 1920 нарком РКИ Туркестанской республики, член РВС Туркестана и председатель горсовета Ташкента. С 1922 заведующий организационно-распределительным отделом ЦК (занимавшимся организацией всех важнейших процедур: проведением заседаний, составлением счетных комиссий, подсчетом голосов и т.п.), с 1924 член ЦК ВКП (б), а с 1926 и секретарь ЦК ВКП (б), под руководством И. В. Сталина руководил продвижением на места ленинских кадров, в 1925—28 1-й секретарь КП (б) Украины.
В 1925 году Сталин рекомендовал Кагановича Генсеком ЦК КП (б) Украины, где Лазарь Моисеевич осуществлял индустриализацию региона: строительство Днепрогэса, развитие металлургической и угольной промышленности.
На Украине Коганович последовательно проводил жесткую линию партии на освобождение КП (б) У и республиканских руководящих органов от националистов.
С 1930г первый секретарь Московского комитета ВКП (б), и член Политбюро вплоть до XIX съезда партии Он не только возглавил работу ряда важнейших отделов, но и руководил заседаниями Политбюро в период отпусков Сталина
Параллельно занимается строительством Москвы, которой мы любуемся и сегодня.
Под его руководством началось строительство метрополитена подобного шедевра нет ни в одной стране мира.
В переломный момент коллективизации был одним из главных организаторов хлебозаготовок во время кулацкого сопротивления на селе.
Проявил себя способным, требовательным и беспощадным к врагам революции руководителем, за что получил прозвище «железный Лазарь».
В 1930—1935 1-й секретарь Московского комитета ВКП (б), реализовывал генеральный план реконструкции столицы, руководил проводившейся в 1933—34 чисткой партии в качестве представителя. Центральной комиссии по проверке партийных кадров. (выдвинул Хрущёва п. а.)
В 1934 был организатором технических процедур (голосования) XVIII съезда ВКП (б) и со знанием дела прочитал доклад «Организационные вопросы партийного и советского строительства», после этого возглавил Комиссию партийного контроля при ЦК ВКП (б). В 1935—1944 нарком путей сообщения, по совместительству с 1937 нарком тяжелой промышленности, а с 1939 и топливной (потом нефтяной) промышленности, с 1938 заместитель председателя Совнаркома. Во время Великой отечественной войны член ГКО и член военных советов фронтов.