– Ага. Только отсутствуют предпосылки для разума. Например, хочет ребенок кушать, начинает плакать, и его дают молока. Первая связь. Намочил пеленки – начинает плакать – ему меняют. Ага, второе есть. Чуть постарше становится. Разбросал еду – его наругали – ага, значит, так делать нельзя. И так далее.
– То есть, – Игорь покрутил пальцем и заметил, что к ним подсели ближе заинтересовавшись Дмитрий, оператор всех дронов и Руслан. Это воспитание? Так можно, а так нельзя?
– Нет. Воспитание – это только часть. Я говорю про весь комплекс: опыт, общество, воспитание, моральные установки, инстинкты и так далее. А то, что я хочу поэкспериментировать – так, безделица, хотя и интересная.
– Но ты же говоришь, что есть самообучающиеся программы.
– Ты видишь у нас на борту опытных программистов или психологов? – он развел руками. Металлическая выглядела особенно эффективно. Есть коллективы, которые пишут такие программы, но у нас на борту таких нет.
– А не боишься, что, твой эксперимент выйдет из-под контроля, станет слишком умным и перебьет нас всех? Ведь, человечество всегда очень опасалось таких сценариев, вспомним еще с этого…как его, – Игорь поморщил лоб – а, Франкенштейна или доктора Моро.
– А ты не боишься, что Лада выйдет из под контроля или какой-то Юнга? Они точно не глупее нашего и умеют анализировать и делать прогнозы лучше человека.
– Тут ты прав, – согласился Игорь и замолчал.
– А вот помнишь, – продолжил геолог, – древнего писателя Азимова? И три закона робототехники. Нельзя такие табу поставить в мет-мозгу?
– Азимов и прочие сейчас можно читать только как лёгкие рассуждения на тему. Да, для своего времени это был прорыв, да и сейчас философские вопросы, поднимаемые там, довольно любопытны. А что касается конкретики, – Аркадий бросил взгляд на Эмиля, как самого эрудированного и многопрофильного специалиста среди присутствующих, – сам подумай. Ведь, чтобы понять, грозит или нет человеку опасность, сам робот должен быть таким умным, уж не меньше, чем человек. Не меньше, а на самом деле – гораздо более умным.
– А как же наша Лада, – вмешался Семен. Она же смотрит за показаниями всего экипажа и сообщает, если существует опасность.
– Да там другая же система, – вмешался Руслан, поигрывая своими впечатляющими бицепсами. Она просто постоянно отслеживает, а у Азимова роботы анализировали и делали вывод – опасно или нет. И мало того, самостоятельно предпринимали действия для предотвращения. Если, например, у кого-то из нас опасно повысится температура, она даст знать об этом Семену и капитану, – он обернулся на врача, который согласно кивнул. Если никого не будет, она, в крайнем случае, направит Юнгу, чтобы он сделал укол. Но это прямая и явная угроза. А если кто-то наставит оружие на человека?