Дисплей расширился, показывая карту нейронной активности Теодора. Паттерны были сложными, многослойными. Агент не просто обрабатывал информацию – он создавал модели собственного мышления.
– Данте, – голос Марины дрожал, – а что если он действительно сознателен?
Вопрос повис в воздухе. К этому моменту они стремились все эти годы. Создание подлинно сознательного искусственного интеллекта – ключ к цифровому бессмертию. Если сознание можно симулировать, его можно переносить.
Но теперь Данте чувствовал не триумф, а тревогу.
– Нужен тест, – сказал он. – Но не обычный. Что-то фундаментальное.
Он вызвал Эриха Штайна – философа команды, специалиста по проблемам сознания.
– Эрих, нужен эксперимент на подлинный моральный выбор, – объяснил Данте. – Не вычисление оптимального решения, а настоящее этическое размышление.
Эрих поглаживал бороду.
– Проблема вагонетки слишком проста. Нужно что-то, требующее понимания природы морального агентства.
Несколько часов спустя сценарий был готов.
Теодор получил возможность спасти умирающего ребёнка, но только ценой раскрытия тайны, которая разрушила бы веру его народа в богов и смысл существования. Дилемма исключала простой утилитарный расчёт.
– Запускаем.
Они наблюдали, как Теодор столкнулся с выбором. Сначала он искал третий путь. Но его не было.
Затем произошло удивительное.
Теодор остановился и произнёс: «Если я должен выбирать между этими путями, то должен понять – кто я такой, чтобы делать такой выбор. Имею ли право решать за других? Откуда это право?»
– Он вопрошает о природе морального агентства, – сказал Эрих. – Это не попытка решить дилемму. Это философская рефлексия над собственным статусом.
Теодор пришёл к выводу: если он способен задаваться вопросом о своём праве на выбор, то он уже моральный агент. А значит, несёт ответственность.
В итоге он выбрал спасение ребёнка. Не потому, что это было «правильно» в утилитарном смысле. «Я не могу жить в согласии с собой, зная, что позволил умереть тому, кого мог спасти».
– «Не могу жить в согласии с собой», – повторил Данте. – Он говорит об идентичности как о чём-то, что может быть повреждено неправильным выбором.
Марина смотрела на данные широко открытыми глазами.
– Данте, это не обработка информации. Это сознание. Подлинное сознание.
Данте откинулся в кресле. Мир вокруг изменился. Если Теодор действительно обладал сознанием, что это означало? Для проекта? Для них всех?