Следствие продолжалось более полутора лет, после чего следователь Захаревич запросил у прокурора окружного суда закрытия дела, так как следствие «исчерпало все возможности к раскрытию личности убийцы подполковника Гладышева». Дело отправилось в архив, приказом окружного прокурора вещественные доказательства по делу (револьвер и пуля, извлечённая при вскрытии из тела Гладышева) были уничтожены. Однако ещё не раз пришлось прокурорским сдувать архивную пыль с этой толстой папки. Уже в 1909 году ожидавший отправки на каторгу в московской пересыльной тюрьме Павел Казаков (из крестьян деревни Малая Стодолица Полцевской волости Рославльского уезда, осуждён за антиправительственную деятельность на 12 лет каторжных работ) сообщил тюремному надзирателю, что его сосед по камере Дмитрий Яковлев (из крестьян Юхновского уезда Смоленской губернии Покровской волости деревни Темникова, 20 лет каторги) хвастался, что это именно он, приехав в Смоленск из Москвы, застрелил помощника начальника жандармского управления. Но показания Казакова не подтвердили другие его сокамерники, а по фото Яковлева не смогли опознать свидетели, ссылаясь на давность лет, прошедших с момента совершения преступления.
21 апреля 1910 года крестьянин деревни Лозынь Спасской волости Смоленского уезда Василий Михеевич Горбачёв поведал новому начальнику смоленских жандармов полковнику Иваненко, что сидел в смоленской пересыльной тюрьме в одной камере с ельненским мещанином Владимиром Ивановичем Милеевым. Этот социалист-демократ рассказал ему, что именно ему выпал жребий расправиться с Гладышевым. Жандармами был послан запрос в тюрьму, начальник которой категорически заявил, что никогда политический заключённый не мог быть посажен в одну камеру с уголовником, которым и является Горбачёв. Соответственно никакими тайнами Милеев с Горбачёвым поделиться не мог.
А делу Гладышева всё не лежится спокойно на архивной полке. В начале января 1911 года на имя смоленского полицмейстера приходит анонимное письмо, в котором в убийстве подполковника Гладышева обвиняется наборщик Иван Иванович Гырлин. На этот раз доследование поручают полицейскому надзирателю смоленского сыскного отделения Владимиру Ивановичу Грундулю. Тот выяснил, что семья Гырлиных давно уже под наблюдением смоленских жандармов, так как считается неблагонадёжной. Жандармы познакомили сыскаря с делом 1908 года. Старший брат Ивана Пётр Иванович Гырлин совместно с нелегальным Александром Сидорком 1 ноября 1908 года убили городового 3-й части Смоленска Петра Пивоварова. При попытке их задержания на квартире Сергеенкова в доме Михайловой на Митропольской улице ранили стражника Щукина и городового 2-й части Яцутина, после чего сбежали в Поречье. Там имели перестрелку с городовыми и полицейскими стражниками, в которой были убиты. Но найти доказательства причастности Ивана Гырлина к убийству подполковника Гладышева не смог ни Грундуль, ни жандармы.