Сам же Брюс по указанию царя в 1711 году отправился в Берлин «для найму мастеровых людей знатных художеств, которые у нас потребны». Занимался Яков Вилимович и покупкой инструментов для научных и мореходных целей. Приобретал художественные произведения и редкости для царского собрания. Во время таких поездок он познакомился с немецким ученым Г. Лейбницем и потом вел с ним переписку.
Учредив Сенат, Петр назначил в него и Брюса, сделав его в 1717 году президентом Берг– и Мануфактур-коллегий. Теперь в ведении Брюса было развитие горнодобывающей промышленности и заводского дела в России. Однако в это же время он продолжал совершенствовать русскую артиллерию, пообещав царю, что сможет добиться большей скорострельности орудий.
Обрадованный Петр отвечал: «Ежели сие сыщете, то великое дело будет, за которую вашу прилежность зело благодарствую».
В том же 1717 году Брюсу пришлось стать дипломатом, на которого Петр возложил ответственную миссию. Вместе с А.И. Остерманом он отправился на Аландский конгресс для выработки условий заключения мира со Швецией.
Смерть шведского короля Карла XII прервала переговоры. Но в 1721 году они возобновились. Тонкая изворотливость Остермана и непоколебимая твердость Брюса удачно дополняли друг друга. Они с честью выполнили возложенное на них поручение. По условиям Ништадтского мира к России отошли Лифляндия, Эстляндия, Ингерманландия, часть Карелии и Моонзундские острова.
Петр, получив известие о таком окончании переговоров, был весьма доволен, сказав, что «николи наша Россия такого полезного мира не получала».
Брюс был не только верным исполнителем державных замыслов Петра, но и принимал участие в его семейных делах. Петр поручил Якову Вилимовичу регулярно посещать царевича Алексея, очевидно, надеясь, что беседы умного и широко образованного человека повлияют на непутевого наследника. При дворе царевича состояла и супруга Брюса Мария Андреевна (Маргарита Мантейфель). В 1724 году во время коронации Екатерины Брюс нес перед ней императорскую корону, а супруга его была в числе пяти статс-дам, поддерживавших шлейф Екатерины.
А в следующем году именно Яков Брюс был главным распорядителем на похоронах Петра.
Екатерина I, утвердившись на русском престоле, не забыла заслуг Брюса, наградив его орденом Александра Невского. Но, увидев, как «птенцы гнезда Петрова» начали жестокую вражду, деля почести при дворе Екатерины, Брюс в 1726 году благоразумно удалился в отставку в чине генерал-фельдмаршала.