Весной 1904 года Коба (Иосиф взял такой партийный псевдоним) встретился с руководителем Кавказского союза РСДРП Миха Цхакая. Тот попросил Джугашвили ознакомиться с последними партийными документами, в частности, с материалами II съезда РСДРП, а затем написать статью по национальному вопросу, которая была опубликована на страницах тифлисской «Борьбы пролетариата». Затем Цхакая направил Кобу на работу в Имеретино-Мингрельский комитет. Тем временем прежние члены Союзного комитета были арестованы, и Цхакая кооптировал в новый состав комитета Джугашвили вместе с Каменевым. Комитет стал на сторону Ленина и его сторонников против меньшевистского большинства ЦК.
С началом первой русской революции Коба пытался смягчить межнациональные отношения в Закавказье. Так, в феврале 1905 года в ходе резни между армянами и азербайджанцами (татарами) в Баку погибли и были ранены десятки людей. Сталин в эти дни был в городе и пытался умерить страсти и направить гнев обоих народов против «классового врага» – нефтепромышленников, но не слишком преуспел в этом. В это время в Баку уже действовала боевая дружина социал-демократов. Однажды по приказу Сталина пять вооруженных винтовками дружинников охраняли армянский район в Балаханах и не допустили здесь межнациональных столкновений, но это была капля в море.
В апреле 1905 года социал-демократы Закавказья раскололись на большевистский Союзный комитет и меньшевистское Кавказское бюро РСДРП. Коба все время был в разъездах, устраивал собрания, агитировал против меньшевиков. А как только появилась свободная минутка в Тифлисе, Иосиф написал письмо старшим товарищам по партии в Лондон, где они собрались на III съезд РСДРП: «Я опоздал с письмом, товарищ. Не было ни времени, ни охоты писать. Пришлось все время разъезжать по Кавказу, выступать на дискуссиях, ободрять товарищей и т. д. Поход был повсеместный со стороны меньшевиков, и надо было дать отпор. Людей у нас почти не было (и теперь очень мало, в два-три раза меньше, чем у меньшевиков), и приходилось работать за троих…» В данном случае Коба позиционирует себя как сугубого практика, которому некогда заниматься теоретическими изысками. Летом 1905 года он занялся формированием в Чиатурах «красных сотен» – вооруженных отрядов, которые сначала мыслились как защита от черносотенцев, а затем – как орудие для захвата власти.