Началась жестокая война, проходившая с переменным успехом. Особое недовольство евреев вызывало выдвижение греческого и эллинизированного сирийского населения страны, которое, стало опорой римского владычества в Иудее.
В городах, где преобладали эллины, вырезались евреи, а там, где преобладали евреи, они вырезали иноверцев. Эта война принесла много крови и ожесточённой ненависти. Но силы были неравными. Разрозненные еврейские отряды противостояли мощной римской регулярной армии.
В 67 году в Иерусалим прибыл Иоханан Гисхальский, храбрейший человек и патриот, под руководством которого евреи держали оборону против римлян в городе Гуш-Халав, или, по-гречески, Гисхала. Это был последний оплот евреев в Галилее, павший под натиском римлян. Вместе с Иохананом в Иерусалиме оказались многие его бойцы и тысячи жителей Галилеи, бежавшие от римлян. Из этих людей он сформировал ополчение. Иоханан как настоящий патриот и ненавистник римлян примкнул к зелотам. В апреле 69 года в Иерусалим вступил Шимон Бар-Гиора и занял главенствующее положение в большей части города. В это время в Иерусалиме главой радикальной священнической группировки стал Элиэзер Бен-Шимон.
Итак, в одном месте оказались три группировки, вожди которых жаждали власти и, что говорить, мечтали в случае победы быть даже провозглашёнными мессией. И они начали борьбу между собой, дошедшую до резни. Ослеплённые взаимной ненавистью и стремлением насолить друг другу, они уничтожили запасы продовольствия в городе(!). Увы, храбрейшие евреи не могли ужиться.
Между тем римский военачальник Веспасиан, главенствовавший тогда в Иудее, был провозглашён императором в Риме. Покинув Иудею, он приказал своему сыну Титу взять Иерусалим. В 70 году Тит во главе четырёх легионов подошёл к стенам Святого города. Иудеи, сплотившись, наконец, мужественно боролись против врага. В первые месяцы осады погибло 115 880 человек. В городе разразился сильнейший голод. Евреи отчаянно защищали Храм, но он сгорел вместе с ними. Однако город не сдавался.
И все же после пятимесячной осады Иерусалим пал. Многие его жители были убиты, многие проданы в рабство. Город был разрушен до основания. В знак победы над святым иудейским городом на руинах Иерусалима римляне расквартировали свой Десятый легион, на который была возложена гарнизонная служба… Самое страшное – был разрушен Второй Храм.