– Альфред, – заговорила Клэр, как бы оправдываясь, – исключительно продвинутая программа. Он прошел множество тестов Тьюринга, созданных ведущими специалистами в сфере неврологии и программирования. Практически по многим параметрам его можно считать живым существом. Почему бы ему не иметь имени?
– Это просто машина, – фыркнул Роберт. – Известно, что на все эти замысловатые тесты полностью полагаться не следует. Между симуляцией самосознания и его реальным наличием существует тонкая, но четкая грань. Наличие имени не превращает ИИ в личность.
Мозг Джейсона работал в ускоренном режиме, пытаясь переварить услышанное. Значит, вот эти колонны и есть тот самый Альфред, с которым он говорил не так давно. Во время их встречи ИИ демонстрировал такой уровень самосознания, что даже страшно. Но, может, Роберт прав и это просто машина?
Ладно, сейчас не до этого. Надо бы еще узнать побольше.
– Если он такой самосознающий, что мешает ему попытаться захватить мир или что-то в этом роде? – шутливо спросил Джейсон.
– Это в кино, – засмеялся Роберт. – Предположим, мы создали идеальный ИИ, но его могуществу есть множество препятствий. Даже к внутренней сети у Альфреда весьма ограниченный доступ, не говоря уж о сетях общего пользования. А связь с индивидуальными виар-шлемами осуществляется через серьезно закодированный двусторонний канал. Да и в случае доступа к общей сети – почему нужно думать, что совершенный ИИ будет непременно враждебен людям или захочет их как-то покорять?.. – Роберт задумчиво смотрел на черные обелиски. – Мы смотрим на вещи с нашей, человеческой, точки зрения. Наша биологическая сущность стимулирует нас искать власти и безопасности. При отсутствии такой мотивации что может подтолкнуть ИИ… – он несколько растерянно замолчал.
– Не думаю, что Джейсону интересны твои философические бредни, – заметила Клэр, нарушив задумчивость Роберта и вызвав недовольный взгляд с его стороны.
– Почему же? Очень интересно, – ответил Джейсон, и Роберт посмотрел на него с признательностью. – А что Альфред может делать с игроками в игре? Залезть в мою память, например?
Роберт и Клэр воззрились на Джейсона, словно потеряв на мгновение дар речи. Похоже, им было не по себе.
Что здесь происходит?
– Совершенно невозможно при теперешнем аппаратном обеспечении, – заговорила наконец Клэр. – Кроме того, есть инструкции второго уровня, запрещающие любые действия ИИ, способные нанести вред игроку.