Почти весь 1943 год Жуков занимался координацией действий различных фронтов, не вступая в командование ни одним из них. Но когда в феврале 1944 года в разгар подготовки Проскуровско-Черновицкой операции был смертельно ранен командующий войсками 1-го Украинского фронта генерал армии Н.Ф.Ватутин, Жукову пришлось принять командование войсками фронта. Операция по освобождению Правобережной Украины задумывалась широко, охватывала огромную территорию, предусматривала нанесение мощных таранных ударов по обороне противника. В этом сражении Жуков впервые столкнулся с выдающимся стратегом Третьего рейха генерал-фельдмаршалом Э. фон Манштейном – ярким представителем активной обороны.
Используя трехкратное превосходство в силах, Жуков прорвал фронт группы армий «Юг» и зажал в кольцо значительную часть немецких войск. Манштейну пришлось вылетать в Ставку к Гитлеру и добиваться переброски новых войск с целью создания ударной группировки для спасения окруженных. Но кроме того, фельдмаршал тщательно постарался скрыть направления своего будущего отступления. И Жуков поверил Манштейну. Его основные силы были сосредоточены у Днестра для перехвата путей отхода противника. И когда Манштейн наконец нанес удар по кольцу окружения, поддержанный встречным ударом окруженных войск, советские части оказались смяты. Значительная часть немцев вырвалась из котла, уйдя за Карпаты.
И все же большая часть советской территории была освобождена, во многих местах советские войска вышли к государственной границе. Жуков был награжден орденом «Победа» за № 1.
После проведения операции «Багратион», в ходе которой была освобождена Белоруссия, советские войска вышли к границам Польши и во многих местах пересекли ее.
В конце 1944 года Жуков был назначен командующим войсками 1-го Белорусского фронта, нацеленными на берлинское направление. После овладения плацдармом на Одере (Висло-Одерская операция) войска Жукова были готовы к броску на столицу рейха. Перед ними фактически не было немецких войск, и Жуков был готов начинать наступать на Берлин уже 20 февраля. Его план предусматривал оказание поддержки войскам 2-го Белорусского фронта, застрявшим в Восточной Пруссии.
Однако Сталин приказал Жукову подождать, пока подтянется Рокоссовский. За это время немцы сумели подготовить Берлин к обороне, возведя вокруг столицы мощные укрепления и стянув к ним все силы рейха.