В 1924 г. Ворошилов был введен в состав РВС СССР и назначен командующим Московским военным округом, а уже в следующем году после внезапной кончины М. В. Фрунзе он занял пост народного комиссара по военным и морским делам (с июня 1934 г. – нарком обороны).
В 1926 г. Климент Ефремович вошел в состав Политбюро ЦК ВКП(б) и оставался там до 1960 г. Это своеобразный рекорд, недостижимый для других старожилов Политбюро – В. М. Молотова, А. И. Микояна и Л. М. Кагановича. В чем причина такого политического долгожительства? По мнению историков, Ворошилов как политическая личность значительно уступал многим «коллегам» по влиянию: не обладал хитростью Микояна, у него не было организаторских способностей и жестокости Кагановича, он не был искушен, подобно Г. М. Маленкову, в аппаратных интригах, ему недоставало огромной энергии Н. С. Хрущева. Даже как военачальник Ворошилов потерпел больше поражений, чем одержал побед. Но, как ни покажется странным, именно из-за отсутствия каких-либо выдающихся способностей он дольше других сохранял место в верхах партии и государства.
Главное состояло в том, что Сталин, шаг за шагом укрепляя свое единоначалие, мог твердо положиться на Ворошилова в любой политически острой ситуации. С благословения вождя из наркома обороны лепился образ правофлангового Красной Армии, воплощавшего все военные доблести. Вот что, например, писала «Правда» по случаю присвоения ему 20 ноября 1935 г. высшего воинского звания Маршала Советского Союза: «Климент Ворошилов – пролетарий до мозга костей, большевик в каждом своем движении, теоретик и практик военного дела, кавалерист, стрелок, один из лучших ораторов партии, вдумчивый и кропотливый организатор огромной оборонной машины, автор ярких и сильных приказов, властный и доступный, грозный и веселый…».
«Ворошиловомания» охватила не только армию, но и страну: в честь наркома был назван тяжелый танк КВ – «Клим Ворошилов», наиболее меткие юноши и девушки боролись за звание «Ворошиловский стрелок». Своеобразный культ наркома обернулся десятками хвалебных книг и брошюр; отразился в топонимике: Луганск был переименован в Ворошиловград, Ставрополь – в Ворошиловск, Уссурийск – в Ворошилов, не говоря уже о более мелких населенных пунктах и других географических объектах; не миновал и песенное творчество («Ведь с нами Ворошилов / Первый красный офицер, / Сумеем кровь пролить за СССР…»).