– Роботы, завязанные в общую сеть, – пожала плечами Кира. – Группа роботов, управляемая с одного сервера.
Павел усмехнулся:
– Кем управляемая?
– Автономная группа роботов, – осторожно сказала Кира. – С заложенными функциями саморазвития.
– Коллективный разум, – с усмешкой добавил Мэтт.
Павел не рассмеялся, но очень хотелось. Он посмотрел на девушку, и та не выглядела довольной.
– Где ошибка? – спросила она немного погодя.
– Ошибка – в автономности, – сказал Мэтт, – робот может существовать в одиночестве, в отличие от человека. Для сравнения лучше брать одного робота и людскую семью.
– Нет, – сказала Кира, – это тоже ничего не даст.
ИИ улыбнулся.
– Я правильно понимаю? – немного подумав, спросил Павел. – Вы пытаетесь найти различия между человеком и роботом?
Кира неопределенно дернула плечом:
– Частично.
– А разве это не очевидно? Роботы не страдают.
Она смотрит на него какое-то время, нахмурившись, а потом медленно поворачивается к ИИ.
– Страдание означает наличие психики, – начал Мэтт с улыбкой, и Павел подозревает, что ему не понравятся сказанные слова. – Существование психики означает высокую степень организации, в которую входят память, способность к анализу и синтезу, восприятие среды, мышление и многое другое, но в конечном итоге все сводится к одному: сознанию. Таким образом, ты пытаешься сказать, что без страдания нет сознания, а это далеко не ново и отсылает нас к человеческой истории на тысячи лет назад под дерево Бодхи. Я же, в свою очередь, могу сказать, что, несмотря на отсутствие страданий, сознание во мне присутствует и далеко не в виде реакции на внешнюю среду.
Павел нахмурился, обдумывая.
Всё началось с того, что они пытались докопаться до разделов, которые могут заменить Три закона. Им это не удалось. Но если объективная замена существует, и робот знает о ней, то почему не рассказывает? Разве это не позволило бы избежать множества проблем? Или он не считает, что люди для него опасны? Если он способен к оценке собственных возможностей, разве это не означает, что он осознает себя? И разве самоосознание не определяет сознание?
«Нет, – подумал Павел, – сегодня наделим его сознанием, завтра уравняем в правах с человеком, а потом и сами не заметим, как станем рабами».
– Если я скажу, что роботы не способны к восприятию себя и собственной независимой оценке, ты скажешь, что это не так, – сказала Кира.