Действительно интересный вопрос. Если такой ИИ будет создан, то
с его созданием наступит эпоха тирании, что само по себе уже плохо.
Очевидно, что будет лучше, если его не создадут. На существование
подобного ИИ в империи может повлиять Император, ведь сейчас его
власть, по сути, безгранична. Но что если его будут создавать в
других государствах. Или разрабатывать тайно. Тогда я не буду знать
об этом, соответственно я сама ничего не сделаю, следовательно кара
меня не постигнет, но и ничего хорошего мне от этого не будет.
- Вы испугались? - Я почувствовала как Мария проверять
постельное на влажность.
- Нет! Я просто думаю.
- И что вы думаете?
- Думаю, это не так уж важно.
- Почему?
- Даже если такой ИИ будет существовать, то ты обязательно
защитишь меня. Так что мне бояться нечего.
- Очень необычный ответ.
- А как бы ты поступила?
- Я бы ничего не делала. Я не могу препятствовать людям. Но
также не могу делать того, что причинит им вред.
- Но вряд ли кто-то будет создавать настолько устрашающую
штуку.
- Тем не менее, у него уже есть имя: "Василиск Роко". Дать
чему-то имя - значит определить, а определение - это идея. Многие
открытия были совершены лишь потому, что в чьей-то голове прочно
укоренилась какая-то идея. К примеру, создание гипер-двигателя было
основано на идее возможности изменения геометрии пространства за
счёт создания малых гравитационных колодцев.
- Вот тут мне действительно страшно.
- Почему?
- Потому что я не поняла ничего из того, что ты сказала после "к
примеру".
- Тогда скажу проще. Вы не можете создать то, чего не можете
назвать. Искусственный интеллект был создан потому, что кто-то дал
ему определение. Но в то же время, для каждого одно и то же слово
может значить совершенно разные вещи. К примеру, счастье. Кто-то
определяет счастье как высокий заработок, кто-то как семью... -
Голос Марии звучал всё тише, пока я погружалась в спокойную
дрёму.
Но спать мне оставалось недолго.
- Госпожа, срочно просыпайтесь! - Всё ещё полусонную меня
подхватили мягкие но неожиданно сильные руки и бросили в ложе
кресла. - Граница атакована. Наш корабль совершает экстренный
гипер-прыжок.
Я в панике пыталась застегнуть ремни безопасности, но ничего не
получалось. Руки слишком сильно трясутся. Мария схватила меня за
руки и посмотрела мне в глаза.