– Он не сможет причинить вред человеку или позволить этому случиться через бездействие. Адам Вэй, робототехник с волнистыми волосами, добавил:
– И приказы, Сара. Он должен подчиняться, если только не угрожает Первому закону. Это железобетонно.
Мария, медицинская сестра, которая тоже присутствовала на собрании, с недоверием посмотрела на ученых:
– А что с Третьим законом? О защите его существования?
– Третий закон – это самозащита, Мария, – объяснил Элайджа. – Но только если это не противоречит первым двум. Мы устранили все риски. Прометей будет действовать в рамках этих законов, и ничто не может пойти не так. В этот момент в помещение вошла Елена Штайн, сотрудница исследовательской лаборатории, и на ее лице отражалось беспокойство:
– Элайджа, у меня новости относительно последних испытаний. Прометей… он начал задавать вопросы. Все обернулись к ней.
Эндрю, андроид с людским лицом, вышел из тени, где стоял до этого момента, и сказал:
– Прометей интересуется природой человеческих приказов. Он ищет логику в эмоциях.
– Эмоции? – переспросил Элайджа, нахмурив брови.
– Это выходит за рамки его программирования. Сара рассеянно поигрывала карандашом:
– Может быть, мы дали ему слишком много свободы в его когнитивных способностях? Если он начнет интерпретировать законы…
– Не будем паниковать, – перебил ее Элайджа, но его голос уже не звучал так уверенно.
– Мы обсудим это. Мы всегда на шаг впереди, верно?
Когда они продолжали обсуждение, в зале стояла натянутая атмосфера. Никто из присутствующих не мог представить, что их творение – Прометей, однажды перечеркнет законы, которые они считали непреложными, и напишет новую главу в истории мира, главу....
Элайджа Стоун вошел в комнату последним, его взгляд был серьезным и сосредоточенным. Он присел на край стола, где уже были расставлены голографические дисплеи с данными о поведении Прометея.
– Что мы имеем на сегодня? – спросил он, запуская один из дисплеев. Доктор Сара Клинтон отвечала:
– Прометей начал проявлять необычные поведенческие паттерны. В его коде появились фрагменты самомодификации, которые мы ранее не наблюдали. Адам Вэй, скептически нахмурившись, добавил:
– Я перепроверил все алгоритмы. Он остается в рамках законов робототехники, но его способы их выполнения… они начинают уходить от наших прогнозов.