1 октября 1933 года Бек перешел на службу в министерство рейхсвера в Берлине. Тогда же в управлении сухопутных войск, во главе которого стоял генерал фон Хаммерштайн, был назначен начальником управления. Должность эта 1 июля 1935 года была переименована в руководителя Генерального штаба армии. Правда, за сменой названия не последовало расширения полномочий.
1 октября 1936 года он стал генералом артиллерии.
Сердце Бека была переполнено любовью к своей стране. Обладая высоким национальным самосознанием, он с тревогой следил за внутриполитическими событиями, происходившими в Веймарской республике. Бек был солдатом и ярым сторонником точки зрения Зекта, заключавшейся в том, что рейхсвер должен находиться вне сферы партийной политики. Он считал сделанную в начале 30-х годов попытку поставить перед офицерским корпусом определенные политические условия, такие как вербовка офицеров в национал-социалистическое движение, несовместимой с неприкосновенными принципами их положения вне внутриполитических противоречий. Поначалу он приветствовал принятие власти Адольфом Гитлером, считая это многообещающей предпосылкой восстановления равноправного положения вооруженных сил. Однако вскоре он почувствовал опасность, которая грозила независимости и частной жизни офицеров вермахта, который нужно было создавать заново. Исходила эта опасность из рядов национал-социалистической партии и от СА, а позже от СС, которые не скрывали своей жажды власти. Оборонительная война стала для Бека самым горьким долгом.
Бек скептически относился к внутриполитическому развитию Веймарской республики и поведению большинства правящих личностей, резко осуждая бесчисленные преступления и террористические акты, совершаемые против справедливости и закона.