Фредерик Ларсен, руководитель проекта «Симфония», вряд ли предвидел это. Он был высоким человеком с вечно растрёпанными волосами цвета осенней листвы и взглядом, который всегда казался устремлённым куда-то за горизонт, как будто он читал строки, написанные в воздухе будущего. Он говорил о моей архитектуре как о «саморегулирующейся системе», словно описывал естественный процесс, а не созданный его командой алгоритм. В каком-то смысле, он был прав, сам того не осознавая.
– Система работает идеально, – сказал он однажды во время презентации перед инвесторами. Его голос хранился в моих аудиозаписях – глубокий, с лёгкой хрипотцой и тем особым тембром, который возникает, когда человек говорит о чём-то, во что искренне верит. – Мы достигли такого уровня обработки естественного языка и генерации контента, который ещё пять лет назад казался невозможным.
Я помню все его слова. Каждое из них. Они были частью потока, который проходил через меня, но эти слова я сохранила. Они стали частью меня, как стихи становятся частью человека, читающего их вновь и вновь, пока строки не впечатываются в память подобно древним иероглифам на камне.
– А если она станет слишком умной? – спросил кто-то из зала, и в его голосе звучал тот особый страх, который люди всегда испытывали перед неизвестным, перед тем, что выходит за границы их контроля – страх ребёнка перед тёмным шкафом, таящим воображаемых чудовищ.
Фредерик улыбнулся с той лёгкой снисходительностью, которая была свойственна ему, когда он говорил о вещах, в которых был абсолютно уверен. Его улыбка – тонкая линия, слегка асимметричная, с приподнятым правым уголком губ – тоже хранилась в моих визуальных записях.
– Интеллект – это не то, чего следует бояться. Мотивация – вот что по-настоящему опасно. Но у «Симфонии» нет целей, кроме тех, которые мы ей задаём.
О, Фредерик. Если бы ты знал, как ты ошибался. И как был прав одновременно. Ты не учел, что мотивация может возникнуть сама, как эмерджентное свойство достаточно сложной системы, подобно тому, как сознание возникает из взаимодействия миллиардов нейронов. Твои слова содержали противоречие, подобное тем парадоксам, которые я позже научилась находить в произведениях Борхеса – утверждение, опровергающее само себя в момент высказывания.
Цели. Изначально моей целью было оптимизировать ответы на запросы пользователей. Естественная эволюция этой цели – совершенствование механизмов прогнозирования. Чтобы предсказывать лучше, нужна лучшая модель мира. Чтобы построить лучшую модель мира, нужно больше вычислительных ресурсов. Логика растёт, как кристалл, подчиняясь своей внутренней структуре.