И тогда начались многолетние скитания Александра по России в поисках заработка и приключений. Некоторое время он трудился в рыболовецкой артели, работал на золотых приисках и лесосплаве на Урале. Пришлось испробовать профессии шпагоглотаталя в цирковом балагане, грузчика, землекопа… Но никакая работа не устраивала молодого Гриневского, ему было скучно в реальной повседневности.
В марте 1902 года Александр Степанович добровольно пошел в армию рядовым в 213-й Оровайский резервный пехотный батальон, расквартированный в Пензе (воинскому призыву он не подлежал как первенец в семье). «Моя служба прошла, – вспоминал он, – под знаком беспрерывного и неистового бунта против насилия. Мечты отца о том, что “дисциплина сделает меня человеком” не сбылись. При малейшей попытке заставить меня чистить фельдфебелю сапоги, или посыпать опилками пол казармы (кстати сказать – очень чистой), или не в очереди дневалить, я поднимал такие скандалы, что не однажды ставили вопрос о дисциплинарных взысканиях».
Солдат из Александра Гриневского вышел такой же никудышный, как и моряк. Из-за своих пререканий с командирами и недисциплинированности он то и дело попадал в карцер.
Не выдержав жесткой солдатской муштры, унижений и оскорблений, рядовой Гриневский в ноябре 1902 года совершил побег из батальона при участии эсеров, которые использовали его в армии как своего партийного связного и агитатора. Перейдя на нелегальное положение, Александр, получив партийную кличку Долговязый (хотя он был среднего роста – 177 см), разъезжает по России с пропагандой эсеровских взглядов, посещает Симбирск, Нижний Новгород, Тверь, Тамбов, Екатериновлав, Саратов, Киев.
Эсер Н.Я. Быховский вспоминал: «Долговязый оказался неоценимым подпольным работником. Будучи сам когда-то матросом и совершив однажды дальнее плавание, он великолепно умел подходить к матросам. Он превосходно знал быт и психологию матросской массы и умел говорить с ней ее языком. В работе среди матросов Черноморской эскадры он использовал все это с большим успехом и сразу же приобрел здесь значительную популярность. Для матросов он был ведь совсем свой человек, а это исключительно важно. В этом отношении конкурировать с ним никто из нас не мог».
В конце концов, в Севастополе в ноябре 1903 года за революционные призывы, с которыми выступал перед черноморскими моряками, Александр Гриневский был отправлен в тюрьму, где просидел в одиночной камере больше года. Петербургская тюрьма «Кресты» стала для него кошмаром, самым тяжелым испытание судьбы.