Во время службы представитель особого отдела дивизии расспрашивал Шелеста не только о брате жены, но и о написанной некогда брошюре, посвященной молодежной рабочей коммуне на примере харьковского завода «Серп и молот». Оказалось, что кто-то обвинил Петра Ефимовича в «левацком загибе» за содержание в общем-то совсем не опасной брошюры. Впрочем, обе поднятые «особистом» темы в будущем развития не имели.
Шелесту предлагали остаться в кадрах Красной армии, но он отказался и даже не поддался на оказываемое на него давление. Он стремился на завод и был в этом стремлении последователен. С 1937 года работал начальником цеха, начальником производства, главным инженером харьковского завода «Серп и молот», на котором работало около 10 тысяч человек. Официально он считался заводом сельскохозяйственного машиностроения, но была там и так называемая специальная продукция (ее удельный вес составлял около 45 % всего производства), то есть завод работал и на военные нужды. В это время значительно улучшились материальные условия семьи Шелеста – он получил хорошую комнату со всеми удобствами, в благоустроенном заводском доме на все той же улице Иванова, 9.
Во время работы на заводе Петра Ефимовича избирали членом парткома, но с завода ему пришлось уйти. Случилось это после появления нового директора Полевского, «самодура и недалекого человека», как напишет о нем впоследствии Шелест. Вследствие интриг нового руководителя Шелест оказался на должности главного технолога харьковского завода № 75 (кстати, информации об этом в анкетах, заполненных собственноручно Петром Ефимовичем, также нет). Однако это продолжалось недолго: Шелесту предложили перейти на партийную работу. Он заколебался, но в этот раз «партийный пресс» был достаточно энергичным. Документы в Харьковском городском комитете КП(б)У быстро оформили, Петра Ефимовича отправили на собеседование в Киев, где он в первый раз встретился с тогдашним первым секретарем ЦК КП(б)У Никитой Хрущевым. С 1940 года по декабрь 1941-го Шелест был секретарем Харьковского городского комитета КП(б)У по оборонной промышленности.
В августе 1940 года в семье появился второй сын – Виталий. «Все вроде бы шло хорошо, – напишет позже Петр Шелест, – но вот после родов Люба сильно заболела: не могла кормить ребенка, и маленькую крошку пришлось отправить в Днепродзержинск к родным Любы. Молодая женщина, мать двоих малолетних детей, периодически находится в больнице. Ей становится все хуже и хуже. Она теряла силы с каждым днем, похудела, ослабла. Все это меня огорчало. Было обидно до слез, что Люба, когда-то жизнерадостная, энергичная, сейчас, по существу, стала беспомощной… Но мы оба были оптимистами, не теряли веры и надежды на то, что все пройдет, станет на свои места, все будет хорошо. Ведь и семья у нас складывалась хорошая».