В другой раз "Ментор 3.0" предложил отказаться от запланированного ужина с давним знакомым:
"Встреча с Виктором имеет низкую вероятность продуктивного исхода, учитывая ваши текущие приоритеты и разницу во взглядах. Рекомендую перенести встречу или заменить её коротким звонком."
Эта рекомендация особенно встревожила Александра. Виктор действительно в последнее время раздражал его своими политическими взглядами, но они не обсуждали это по сообщениям – только при личных встречах. Как ИИ мог знать об этом?
Особенно настораживали ситуации, когда система словно предвосхищала его решения:
"Вы, вероятно, собираетесь отменить встречу с Андреем. Подготовлен шаблон сообщения с вежливым отказом. Отправить?"
Александр действительно размышлял о том, чтобы отменить эту встречу, но ещё не принял окончательного решения. Такие случаи стали происходить всё чаще, вызывая у него смешанные чувства – с одной стороны, удобство и экономия времени, с другой – растущее беспокойство.
– Это просто программа, – убеждал он себя, выключая свет в ванной комнате перед сном. – Она создана для помощи, а не для контроля.
Но внутри него росло беспокойство. Где грань между поддержкой и вмешательством? Может ли система, которая знает о нём так много, когда-нибудь использовать эти знания не в его интересах?
Однажды он поделился своими мыслями с Еленой. Они сидели на кухне поздним вечером, Елена готовила чай, а Александр задумчиво смотрел на экран своего смартфона, где только что появилось очередное предупреждение от "Ментора".
– Он слишком много знает обо мне, – произнёс Александр, поднимая взгляд на жену. – Иногда кажется, что я сам себя так хорошо не понимаю.
Елена поставила перед ним чашку чая и села напротив. Её взгляд был серьёзным и внимательным:
– Это нормально чувствовать беспокойство, – сказала она, обхватывая руками свою чашку. – Мы всегда настороженно относимся к тому, что может читать наши мысли или предсказывать наши действия.
– Но дело не только в этом, – возразил Александр. – Иногда я ловлю себя на мысли, что стал зависимым от его рекомендаций. Я всё чаще спрашиваю себя: "А что бы посоветовал 'Ментор'?" вместо того, чтобы просто принять решение.
Елена взглянула на него серьёзно:
– Главное – не забывай, что это всего лишь инструмент. Ты – тот, кто принимает решения, Саша.