Согласие на свадьбу от родителей невесты Сталин получил, правда, с одним условием, что молодожены будут венчаться в церкви. И в 1906 году они поженились. А 18 марта 1907 года у Сосо и Като, как называли Иосифа и Екатерину, родился сын Яков Джугашвили.
И в том же 1907 году члены партии большевиков в Тифлисе ограбили карету казначейства, перевозившую огромную сумму денег. После этого Сталин вместе с супругой и маленьким сыном уехали в Баку. И там Като неожиданно заболела быстротечной чахоткой, а по другим версиям – брюшным тифом. И в декабре 1907 года умерла на руках у мужа. Сталин был настолько подавлен произошедшим, что когда гроб с телом опустили в землю, он бросился в могилу. В тот день Коба говорил, что его сердце окаменело. А сын Яков с восьмимесячного возраста стал воспитываться у своей тети Александры Сванидзе…
В 1907 году Иосиф Сталин принимал активное участие в революционных событиях в Баку, за что и был отправлен в ссылку в Архангельскую область. И здесь в 1911 году он снимал комнату у некой Марии Кузаковой. Поскольку к тому времени они оба потеряли супругов, у них завязались отношения, Мария забеременела и родила сына Костю. Но в 1912 году ссылка Сталина закончилась, и он уехал из этих мест, чтобы больше никогда сюда не возвращаться…
Еще одну женщину Сталина звали Лидия Перепрыгина. Ей на момент любовных отношений с 37-летним Иосифом Джугашвили было всего 14 лет. А в апреле 1917 года она родила мальчика, который был записан как Александр Джугашвили, то есть под фамилией Сталина. В деревне Сталина стали преследовать за эти отношения с Перепрыгиной, и он вынужден был дать обещание, что женится на Лидии. Но лишь только срок ссылки истек, как Сталин убыл из села…
23 марта 1910 года в частном доме в Баку были арестованы мужчина кавказской внешности и молодая женщина. По свидетельству агентов наружного наблюдения, примерно полгода они совместно проживали здесь без прописки и по фиктивным документам. Однако жандармы хорошо знали, что мужчина – член бакинского комитета РСДРП Иосиф Джугашвили (подпольная кличка – Коба), который разыскивается департаментом полиции с августа 1909 за побег из ссылки. Арестованная же женщина оказалась Стефанией Леандровной Петровской и тоже членом бакинской организации РСДРП.
Познакомился же Сталин со Стефанией в Сольвычегодске, где оба находились в ссылке. Любил ли ее Иосиф? Скорее всего. По крайней мере, после освобождения женщина отправилась в далекий Баку. В тюрьме Сталин подал прошение о разрешении вступить с Петровской в законный брак. И 23 сентября 1910 года разрешение было дано. Однако в тот же день Иосифа отправили по этапу в ссылку в Вологду – досиживать срок. Стефанию же к тому времени освободили, однако за Сталиным она не поехала. Так и разлучились навсегда Коба и Петровская. А после 1929 года ее фамилия исчезла со страниц партийной печати. И как в дальнейшем сложилась ее судьба, неизвестно…