Тем временем политические перемены произошли как в Риме, так и в Иерусалиме. После убийства заговорщиками императора Нерона Веспасиан был избран при поддержке легионеров императором и покинул Иудею, оставив вместо себя своего сына Тита. В Иерусалиме же вождь галилейских зелотов Иоханан из Гуш-Халава обвинил правительство умеренных в измене и возложил на них вину за утрату Галилеи. Призвав на помощь эдомитян, примыкавших к самым радикальным сторонникам восстания, он учинил резню умеренных. Были убиты, в частности, Ханан бен Ханан и Иеѓошуа бен Гамла. Опасаясь вождя иерусалимских зелотов Шимона бар Гиору, Иоханан отказался впустить его и его людей в город, но уцелевшие лидеры умеренных открыли ворота Шимону бар Гиоре, рассчитывая с его помощью избавиться от галилейских зелотов и эдомитян. В результате в Иерусалиме разгорелась полномасштабная гражданская война. Противоборствующие стороны объединились лишь после того, как Тит выдвинул свои войска непосредственно к стенам Иерусалима.
Осада и штурм Иерусалима и бои на его улицах продолжались пять месяцев, в ходе которых погибли сотни тысяч людей. 9 ава (в начале августа) 70 г. был захвачен и разрушен Второй Храм. После этого бои в Иерусалиме продолжались еще 18 дней. Тит приказал разрушить Иерусалим целиком, оставив лишь три башни из его укреплений – Гиппикус, Мирьям и Пцаэль. Однако борьба продолжалась еще два с половиной года. Повстанцы, удерживавшие три крепости в пустынных районах к юго-востоку от Иерусалима, продолжали оказывать ожесточенное сопротивление, пока в 73 г. не пала последняя из этих крепостей, Массада, обороной которой командовал Элеазар бен Яир.
После разрушения Иерусалима и Храма духовным центром еврейского народа стал город Явне, где по инициативе раббана Иоханана бен Закая, спасшегося из осажденного Иерусалима, была возобновлена деятельность Синедриона. Однако главой еврейского народа номинально все еще продолжал оставаться царь Агриппа II. Неоднократные попытки царя убедить восставших сложить оружие имели своей целью спасение Иерусалима и Храма. В своем наделе на северо-востоке Страны Израиля он воспрепятствовал истреблению евреев язычниками. Несмотря на это сотрудничество царя с римскими завоевателями, разрушителями Храма, окончательно лишило последнего представителя династии Иродиадов авторитета в глазах народа. После смерти Агриппы II в 92 (возможно, 96) г. римляне упразднили Иудейское царство и окончательно аннексировали его территорию.