В 1906–1907 гг., когда царское правительство охватило всю Россию сетью военно-полевых судов, широкая массовая работа стала совершенно невозможной. Аршинов отдает дань исключительной обстановке и своему боевому темпераменту: раз за разом он совершает несколько террористических актов.
23 декабря 1906 г. в рабочем поселке Амур близ Екатеринослава он с несколькими товарищами взрывает полицейский участок. (При взрыве погибло три казачьих офицера, пристава и стражники из карательного отряда.) Благодаря тщательной организации этого акта ни Аршинов, ни его товарищи не были раскрыты полицией.
7 марта 1907 г. Аршинов стреляет в начальника главных железнодорожных мастерских г. Александровска Василенко. Вина последнего перед рабочим классом состояла в том, что он отдал под военный суд за александровское вооруженное восстание в декабре 1905 г. свыше 100 человек рабочих, из которых многие на основании показаний Василенко были осуждены на казнь или на долгосрочную каторгу. Кроме того, и до этого случая и после него Василенко проявлял себя как активный и безжалостный угнетатель рабочих. Аршинов по собственной инициативе, но в соответствии с общим настроением рабочих масс, сурово расправился с этим врагом трудящихся, застрелив его близ мастерских на глазах многочисленных рабочих. На этом акте Аршинов был схвачен полицией, жестоко избит и через два дня, в порядке военно-полевого суда, приговорен к казни через повешение. Однако в центре приведение приговора в исполнение приостановили, найдя, что дело Аршинова по закону должно разбираться не военно-полевым, а военно-окружным судом. Эта отсрочка казни дала Аршинову возможность бежать. Побег был совершен из Александровской тюрьмы в ночь на 22 апреля 1907 г., во время пасхальной заутрени, когда заключенных вывели в тюремную церковь. Смелым набегом нескольких товарищей с воли тюремная стража, охранявшая заключенных в церкви, была застигнута врасплох и перебита. Всем заключенным предоставлена была возможность бежать. Вместе с Аршиновым тогда бежало свыше 15 человек. После этого Аршинов проводит около двух лет за границей, главным образом во Франции, но в 1909 г. возвращается в Россию, где в течение 1,5 года в нелегальных условиях ведет пропагандистскую и организационную работу по анархизму среди рабочих.