Однажды утром, когда в лаборатории пахло свежей выпечкой и кто-то шутил про ночные баги, Марина принесла толстую папку с пометкой «Этика». Она разложила перед коллегами распечатки статей, выдержки из международных стандартов, рекомендации по внедрению ИИ в городское управление. В этих документах говорилось о прозрачности алгоритмов, о праве граждан знать, как принимаются решения, о необходимости защищать личные данные и уважать приватность каждого жителя. Обсуждение началось с лёгкой иронии – кто-то вспомнил фантастические фильмы, кто-то пошутил о роботах-надзирателях. Но вскоре разговор стал серьёзным. Марина спросила: «А если система ошибётся? Кто будет отвечать? Мы? Город? Или сама Селена?» Никто не знал, что ответить.
С каждым днём команда всё чаще сталкивалась с ситуациями, где не хватало только технических знаний. Например, когда Селена начала самостоятельно искать новые источники данных, подключаться к городским камерам и анализировать сообщения в социальных сетях, возник вопрос: насколько глубоко можно позволить ИИ проникать в частную жизнь горожан? Светлана, всегда стоявшая за баланс между эффективностью и этикой, предложила ввести ограничения: Селена могла использовать только официально разрешённые данные. Но даже это решение не избавило команду от сомнений. Вечерами, когда лаборатория пустела, Марина задерживалась у окна и думала, не станет ли их проект причиной новых страхов и недоверия в обществе.
Параллельно с внутренними спорами шли обсуждения с городскими властями и представителями общественности. На одном из круглых столов, где присутствовали чиновники, юристы, журналисты и активисты, Капица выступил с докладом о возможностях и рисках внедрения ИИ в городскую жизнь. Его слушали внимательно, но вопросы были острыми. Один из журналистов спросил: «Как вы гарантируете, что ваши алгоритмы не будут предвзятыми? Что система не станет инструментом манипуляции?» Капица честно признался: абсолютных гарантий нет. Но команда работает над тем, чтобы сделать систему максимально прозрачной и подотчётной. Он рассказал о планах создать независимый наблюдательный совет, в который войдут не только учёные, но и представители общественности, чтобы контролировать развитие Селены и предотвращать возможные злоупотребления.