Получив согласие Екатеринославской казенной палаты, датированное 16 ноября 1868 года, Яков Поляков с родителями и семьей младшего брата Лазаря переехал в Таганрог.
Обосновавшись в Таганроге, Яков Поляков стал представителем братьев Поляковых на юге России.
В начале своей деятельности он активно сотрудничал с братьями, принимая участие в совместных проектах. Так, объединенными усилиями братья учредили несколько железнодорожных обществ и начали строительство железнодорожных путей в южных российских губерниях, к примеру Курско-Харьковско-Азовской (до Таганрога и Ростова-на-Дону) и Воронежско-Аксайской (Ростовской) железных дорог. Подряд на их строительство был заключен между правительством России и средним братом – Самуилом Поляковым.
Движение поездов от Ростова-на-Дону до Харькова и дальше, до Москвы, было открыто 1 октября 1870 года. А 28 ноября 1871 года поезда пошли уже и от Ростова до Воронежа, и далее до Москвы.
В общей сложности было проложено более 2500 километров железных дорог, многие из которых функционируют и в настоящее время.
В совместных предприятиях по строительству железных дорог контрольный пакет акций, как правило, принадлежал Самуилу Полякову, который был основным концессионером. Но и братья – Яков и Лазарь – в накладе не оставались. Каждый получал свою долю акций.
Так, во время Русско-турецкой войны 1877—1878 годов Самуилу Полякову доверили строительство двух стратегических железных дорог в Румынии. Это проект был завершен в рекордно короткие сроки и высоко оценен заказчиком. Самуил даже получил высшую награду Всемирной выставки 1878 года в Париже. Яков же, поздравляя брата с завершением расчетов с казной, не преминул напомнить о расчете с собой:
«Надеюсь, что ты, дорогой брат, найдешь справедливым уделить мне 25% из настоящего дела, которое я своим потом и кровью добыл… Смело скажу, что без меня никому не достались бы даже остальные 75%».
Владелец судов и пароходов
Впрочем, частью прибыли от совместных проектов с братьями Яков довольствовался недолго.
В 1870 году он открыл собственный торговый дом в Таганроге, став владельцем зданий № 48 и № 50 по улице Петровской, а также дома № 4 в Итальянском переулке.
А в 1871 году основал управление каботажного>1 Азовского буксирного пароходства. Применяемый ранее парусный каботаж он заменил на более быстрый паровой, и результаты не замедлили сказаться. Если раньше разгрузка заграничного судна иной раз затягивалась почти на две недели, то теперь управиться с разгрузкой можно было за 2—3 дня. Да и стоимость доставки грузов подешевела. Раньше доставка товаров от рейда