– Он проводит эксперименты, – пробормотал Данте, наблюдая за действиями агента. – Смотри, он создаёт утверждения о собственных мыслительных процессах и проверяет их на непротиворечивость.
Теодор в симуляции записывал: «Если я могу мыслить об этом утверждении, то оно существует в моём мире. Но если оно существует и при этом утверждает собственную ложность, то либо моё понимание истинности неполно, либо сам мир, в котором я существую, содержит фундаментальные ограничения».
– Это… это же метакогнитивный анализ, – прошептала Марина. – Он рефлексирует над собственными мыслительными процессами.
Данте почувствовал, как учащается сердцебиение. За годы работы над проектом «Генезис» он видел множество сложных поведенческих паттернов. Агенты научились использовать инструменты, создавать искусство, даже формировать социальные структуры. Но это было качественно иным.
– Активируй философский модуль мониторинга, – приказал он подсистеме контроля. – Нужно проследить всю цепочку рассуждений.
Голографический дисплей расширился, показывая детальную карту нейронной активности Теодора. Паттерны были сложными, многослойными. Агент не просто обрабатывал информацию – он создавал модели собственного мышления и анализировал их.
– Данте, – голос Марины дрожал от волнения, – а что если он действительно осознаёт себя?
Вопрос повис в воздухе. Данте знал, что именно к этому моменту они стремились все эти годы. Создание подлинно сознательного искусственного интеллекта рассматривалось не столько научной задачей, сколько в качестве ключа к цифровому бессмертию. Если сознание можно симулировать, его можно и переносить.
Но теперь, когда этот момент, возможно, наступил, Данте почувствовал не триумф, а странную тревогу.
– Нужно провести тест, – сказал он наконец. – Но не обычный тест разумности искусственного агента. Что-то более… фундаментальное.
Он вызвал к себе Эриха Штайна, философа команды, специализирующегося на проблемах сознания и этике искусственного интеллекта.
– Эрих, нам нужен эксперимент, который покажет, способен ли агент к подлинному моральному выбору, – объяснил Данте ситуацию. – Что-то, что требует не вычисления оптимального решения, а настоящего этического размышления.
Эрих задумался, поглаживая окладистую бороду.
– Классическая проблема вагонетки слишком проста, – сказал он. – Нужно что-то, что требует понимания природы морального агентства самого по себе.