«Преимущества», полученные Иосифом, состояли в том, что он мог продолжать обучение в духовной семинарии. Поскольку у матери не было средств содержать сына, его обещали взять на казенный счет. И вот в августе 1894 года вместе с несколькими товарищами он приезжает в Тифлис и успешно сдает вступительные экзамены. Теперь он – семинарист.
Главной улицей Тифлиса справедливо считался Головинский проспект, проложенный параллельно реке Куре, одной из красивейших была Пушкинская улица. Ее украшал бюст А. С. Пушкина и мемориальная доска, напоминавшая о том, что в 1829 году поэт побывал здесь. На Пушкинской же улице, в четырехэтажном доме № 4, помещалась Тифлисская духовная семинария. В первом этаже размещались столовая и гардеробная; второй и третий были отведены под классы, а в верхнем – спальные комнаты, по 20–30 человек в каждой. В здании находилась небольшая церковь.
Четырнадцатого июня 1895 года на первой странице газеты «Иверия», редактировал которую известный грузинский писатель князь И. Чавчавадзе, было напечатано стихотворение, начинавшееся словами «Распустился бутон роз», за подписью И. Джугашвили.
Видимо, стихотворения молодого семинариста вполне удовлетворяли редактора «Иверии», так как они стали одно за другим появляться в газете: 22 сентября 1895 года было опубликовано «Когда на небе ясная луна», 11 октября – «Месяцу», 29 октября – «Рафаэлу Эристани», 25 декабря – «Бродил по миру словно призрак…». Все они были подписаны «Сосело». В июле 1896 года опубликовал стихотворение того же автора «Старик Ниника» журнал «Квали» («Борозда»).
Успех шестнадцатилетнего стихотворца несомненен. Стихи Сосо Джугашвили были написаны с большим литературным вкусом, образным народным языком.
Примечательна судьба стихотворений Сосело. Первое из них (июнь 1895 года) под названием «Утро», что вполне соответствует его содержанию, выдающийся грузинский педагог Я. Гогебашвили поместил в свой учебник для начальных школ «Деда Эна» («Родное слово»). С этой книги начинало свое воспитание каждое новое поколение дореволюционной Грузии.
Стихотворение «Р. Эристави» в 1899 году было включено в юбилейный сборник Р. Эристави наряду с речами, поздравлениями, стихотворениями и посвящениями таких грузинских общественных деятелей, как И. Чавчавадзе, А. Церетели и др. В 1907 году М. Келенджеридзе, не зная автора, поместил это стихотворение в «Грузинской хрестоматии, или Сборнике лучших образцов грузинской словесности».