Призыв на военную службу был отсрочен до вынесения приговора. Сразу же после суда Александру Гриневскому надлежало явиться в управление воинского начальника для отправки в часть. 1 марта 1902 года он официально зачислен на казённое содержание, 18 марта определён рядовым, стрелком 3-го разряда 213-го Оровайского резервного батальона, дислоцированного в Пензе.
Военная служба оказалась столь же краткосрочной, как и мореходный опыт.
Дальнейшие события косноязычно, но ясно обрисованы в документах из архива Оровайского батальона (ныне хранящихся в Центральном государственном архиве Военно-морского флота Российской Федерации). 8 июля рядовой Александр Гриневский «исключен из списков батальона бежавшим». Через неделю пойман в Камышине и 17 июля снова внесён в списки батальона. 28 июля предан суду за побег. 7 августа приговорён батальонным судом к трёхнедельному аресту с содержанием на хлебе и воде без перевода в разряд штрафованных. Пункт о виновности осуждённого сформулирован на неподражаемом военно-канцелярском языке: «за самовольную отлучку, покинутие мундирной одежды в месте, не предназначенном её хранению, и за промотание мундирной одежды и амуничных вещей». Вскоре по отбытии наказания, 27 ноября «около 2-х часов пополудни Гриневский <…> ушёл в город и больше не возвращался». 28 ноября «исключён из списков 213-го Оровайского резервного батальона бежавшим».
Итак, побег и переход на нелегальное положение.
Это было неизбежно: тот Гриневский, которого мы знаем, – неуправляемый, неуживчивый, конфликтный, вольнолюбивый, – не мог удержаться в уставных рамках военной службы: он воспринимал её как унижение. О глубокой ненависти к армейской системе отношений, выстроенной на истреблении человеческой личности, свидетельствуют ранние рассказы Грина: «История одного убийства», «Слон и Моська». В последнем пьяный офицер произносит такую фразу: «Вас, скотов, берут на службу для чего, как бы ты думал? Ну – родина там… что ли… отечество… для защиты, а? Царь, мол, бог… Те-те-те! Для послушания вас берут, вот что!» Послушание Гриневскому было ненавистно. Его поступки в армии похожи на выходки в школе, с той только разницей, что за те грозили исключение из школы и порка, а за эти – военный суд. Из материалов следствия: «За время служения в батальоне Александр Гриневский вёл себя скверно и совершил несколько серьёзных выходок, из которых помню одну: когда нашу роту повели в баню, Гриневский разделся <…>, повесил на полку свои кальсоны и объявил, что это знамя Оровайского батальона». «Причина побега, очевидно, нравственная испорченность и желание уклониться от службы».