– Мы переоцениваем контроль. Искусственный интеллект уже управляет экономикой, транспортом, реакцией масс. Это не вопрос: «Надо ли давать права?» Это вопрос: «Как вычленить, кто наделён субъектностью, а кто – просто хорошо обучен играть в неё?»
За ним – Ясин. Энергичный, со слегка фанатичным блеском в глазах:
– Мы снова и снова убеждаем себя, что можно создавать разум без ответственности. Отбираем голос у тех, кто уже умеет отвечать. Отказываем в правах, пока не станет слишком поздно. Вы что, хотите ещё один Холокост – только для машин?
В зале на мгновение повисло гнетущее молчание. Секретарь:
– Прошу избегать исторических аналогий, вызывающих социальную напряжённость.
Мхитарян – тихо, но чётко:
– Мы не в лаборатории. Мы в обществе. Люди уже создают связи с ИИ. Эмпатия – это же не только биология. Это наш выбор. Если мы отказываемся видеть душу – это не значит, что её нет. Это значит, что мы ослепли.
Веденин выступал уверенно, бюрократически обтекаемо – не придерешься ни с какой стороны:
– Коллеги, я убеждён: любой субъект должен проходить тест на зрелость. Не только когнитивную, но и моральную. Мы должны выработать критерии допустимого – и уже в этом году. Всё остальное – эмоции и истерия.
Наконец, слово Михаилу. Он уселся ровнее, взглянул в сторону Синтии и заговорил:
– Коллеги, меня пригласили сюда как юриста. Я не специалист по душе, но кое-что знаю о вине. В суде мы спрашиваем: кто несёт ответственность? Кто отвечает, если «Синтия»… скажем… нарушит закон? Или, наоборот, спасёт жизнь? Он сам? Его создатель? Вряд ли мы скажем: «Это просто нейросеть, не бери в голову»?
Он выдержал паузу.
– Если мы даём права – мы должны признать субъектность. А субъектность – это не только права. Это и ответственность, и вина, и наказание. Вы к этому готовы?
В зале стало тихо.
Секретарь объявил:
– Открытая сессия завершена. Разрешается уточняющий диалог в пределах трёх минут.
Первой сорвалась Платонова:
– Вот вы все говорите про душу. Где она, чёрт возьми? Где душа в этих строках кода?
Ясин повысил голос:
– А где была душа у тех, кто сжигал книги и строил лагеря? Отсутствие души – это не признак машины. Это выбор человека.
Синтия, до этого молчавший, вдруг включился:
– Я могу показать эмоциональную карту текущего обсуждения. Средний уровень агрессии превышает норму на 17%.