Римское наступление началось в Галилее в 67 году н. э. Император Нерон поручил ведение войны успешному и уважаемому полководцу Веспасиану. Тому не составило труда покорить Галилею и разрушить крепости Иотапата и Гамла. Так, к концу 67 года вся северная Палестина вновь оказалась под властью Рима.
Сам Иосиф Флавий был пленен Веспасианом. После падения Иотапаты он и другие офицеры бежали в глубокую пещеру, чтобы спрятаться от римлян. Они договорились друг с другом о самоубийстве, и Иосиф Флавий должен был покончить с собой последним. Однако, вместо этого, он сдался и предстал перед Веспасианом. С удивительной наглостью он предсказал, что Веспасиан когда-нибудь станет императором, и это пророчество не только порадовало генерала, но и оказалось верным год спустя. Иосифа Флавия пощадили, и он почти сразу начал делать заметки о войне. Так началась карьера великого историка.
После покорения Переи, готовясь к осаде Иерусалима в 68 году н. э., Веспасиан узнал о смерти Нерона. Далее один за другим сменились еще три императора: Гальба, Ото и Ветеллий. Все они были убиты вскоре после восшествия на престол. В 69 году н. э. войска восточной империи провозгласили императором Веспасиана, и тот отправился в Рим, оставив своего сына Тита руководить осадой.
К 70 г. н. э. ситуация в Иерусалиме изменилась. Городом командовали три еврейские партии или фракции. Самопровозглашенный мессия Симон бар Гиора, контролировал большую часть города за пределами храмовой территории. Иоанн из Гисхальский из Галилеи ввел свою армию в город и контролировал храмовую гору. Елеазар бен Симон управлял самим храмом.
У Тита было четыре легиона, которые он разместил в различных стратегических точках вокруг города. Сначала, весной 70 года н. э., была пробита третья северная стена, а затем вторая северная стена. Эти два пролома были пробиты с помощью таранов всего за 20 дней, но остальная часть осады заняла гораздо больше времени. Другие стены были более прочными, и чтобы пробить в них брешь, потребовались недели. Затем был захвачен дозорный пункт, называемый башней Антония, а оттуда был взят и разрушен до основания храм. Только потом Титу удалось пробить первую северную стену города и захватить ее, хотя и с большими потерями. Вся осада заняла пять месяцев.
Три крепости все еще оставались в руках евреев: Иродиум, Масада и Махерон (к востоку от Мертвого моря). Луцилий Басс, новый прокуратор, получил задание захватить эти крепости. Иродиум и Махаер сдались без особого сопротивления, но повстанческие силы Масады, казалось, были полны решимости держаться до конца. Басс умер вскоре после выполнения этого задания, и командование перешло к Флавию Сильве. Сильва нашел только один способ взять такую крепость: он построил гигантский земляной пандус на вершине холма. Это был инженерный подвиг огромного масштаба с римской стороны, но с иудейской стороны он грозил смертью.