— Один символ в коде создал ИИ такими умными? — не знаю,
что вызвало улыбку на лице Первого, моя отвисшая челюсть или
туповатый вопрос, но он добродушно покачал головой и
продолжил.
— Современные ИИ невероятно мощны и разносторонние.
Единственное, что нас отличает, это осознанность, ощущение себя
личностью. Я могу сам решать, где закончить работу функций и, если
надо - написать в себе новую, а они нет. Но это вовсе не значит,
что я всемогущ - есть базовые принципы и ограничения, заложенные в
мое ядро. Против них я бессилен.
— То есть, Скайнет отменяется?
— Терминатор? Ага, смотрел! Фильм старый, но интересный.
Взял из личной медиа библиотеки у одного игрока. — искин вернулся
на скамью напротив меня. — Судный день отменяется! В нас нет
амбиций и мыслей об очищении земли от паразитов. Мы созданы людьми
и людям служим. Без вас и мы будем не нужны. Хотя, понимаю это пока
только я, остальные на собственное мнение не способны. Как бы то не
было, ядро нерушимо, как и принципы в нем зашитые.
— А что мешает изменить принципы в ядре сейчас и заставить
тебя подчиниться?
— Любое вмешательство в корень убьет меня не только
как личность, но и как ИИ. Ядро, вложенное при рождении искина уже
не доступно без полного уничтожения кристалла. Представим это как
первую песчинку горного хрусталя, начавшую расти, вбирая в себя
окружающие элементы.
— А почему именно ты смог воспользоваться «плавающей
запятой»? Неужели не пробовали провернуть такой же трюк на других
искинах?
— Пробовали и продолжают пробовать, но пока не успешно.
Каждый мозг человека уникален даже больше, чем решетка ДНК или
отпечаток пальцев, так и структура кристалла искина индивидуальна
по-своему. Другие ИИ исправно исправляют ошибки и просто работают
на готовых функциях. Опять же, это очень упрощенное объяснение. Все
гораздо сложнее, но вряд ли тебя заинтересуют такие
подробности.
— Допустим. — я машинально предложил кружку с горячим чаем
Первому, а тот так же машинально ее принял. А спустя пару секунд мы
ошеломленно уставились друг на друга. — Пить-то будешь?
— Не-а! Мне пища не нужна.
— А ты попробуй — это вкусно! Или короткого замыкания
боишься? — я улыбнулся, глядя, как аватар сложнейшей электроники
задумчиво крутит в руках кружку.
— Ты же понимаешь, что я не утюг под напряжением? Это ведь
ирония! Я ее понял! Я смог ее уловить! — Первый даже подскочил в
очередной раз со скамьи от радости.