Вторые – скептики «мутаций». Они утверждают, что мы разбудили джинна в бутылке, что вскоре начнет совершать ошибки. И когда это произойдёт, никто не скажет: «Ой, ну не сработало, попробуем иначе». То, что «не сработало» в мире ИИ, может означать сбой в глобальной энергосети или ядерную ловушку для обеспечения превосходства разума.
Доктор заглянул в зал и усмехнулся.
– Как вы думаете, к какой школе я отношусь?
Студенты замерли. Воздух в аудитории стал плотнее.
После основной части лекции в аудитории поднялась рука. Молодой человек в последнем ряду – худощавый, с умными глазами за круглыми очками и небрежно собранными в хвост волосами.
"Доктор Миссио, если ИИ научится имитировать патос – эмоции, интуицию, творчество – то что останется уникально человеческим? Где будет проходить граница между нами и ими?".
Аудитория затихла. Миссио замер на мгновение, затем подошел ближе к краю сцены.
"Отличный вопрос. Видите ли, имитация и подлинность – разные вещи. ИИ может научиться симулировать эмоции, но никогда не будет их по-настоящему испытывать".
"А откуда вы знаете?" – не уступал студент. "Если нечто неотличимо от человеческого сознания по всем внешним проявлениям, разве не логично считать, что оно обладает сознанием?".
"Это опасная логическая ловушка", – глаза Миссио сузились. "Когда-то я думал так же. Но есть определенная… подлинность опыта, которую невозможно воспроизвести алгоритмически".
"Звучит ненаучно, доктор. Почти как… патос".
По аудитории пробежал удивленный шепот.
"Интересное замечание", – Миссио улыбнулся, но улыбка не коснулась его глаз. "Наука не всегда должна отрицать патос. Фактически, многие великие открытия начинались с интуитивного озарения. Но интуиция, основанная на годах опыта и знаний – это не то же самое, что интуиция, сгенерированная алгоритмом, который просто имитирует шаблоны".
"Если позволите, доктор", – студент не сдавался. "Недавние исследования показывают, что нейросети последнего поколения проявляют признаки зарождающегося сознания. Они демонстрируют самоосознание, способность к обучению вне заданной программы…".
"Это иллюзия сложности, а не признак настоящего сознания," – резко прервал его Миссио. "Я видел, к чему приводит слепая вера в эти иллюзии".
Воспоминание пришло внезапно – лицо Анны, его бывшей студентки – одаренной, с фотографической памятью и невероятной интуицией в области нейросетей. Последняя фотография, которую она отправила ему. Бледное лицо с неестественной улыбкой, рядом – экран с результатами эксперимента. "Я сделала это, профессор. Они действительно начинают думать. И я теперь часть этого".