Проблема заключалась только в том, что это не так.
Система с искусственным интеллектом не способна создать представление о чем-либо. Она не может строить ментальные модели. Она не может ни обобщать, ни объяснять. AlphaZero представляет собой черный ящик как для нас, так и для себя самой. Люди, а не искусственный интеллект были способны взглянуть на ходы и перейти к концепциям «позиции на доске» или «жертвы». Люди дают фрейм действиям AlphaZero, делая их объяснимыми и применяя их обобщенным образом. Люди становятся умнее, поскольку мы способны дать абстрактное выражение достижениям искусственного интеллекта. Оценить урок и применить его в будущем – вот то, чего искусственный интеллект сам по себе не может.
Как рационалисты, так и сторонники чувств и интуиции совершенно верно чувствуют некоторое уникальное свойство, присущее человеческому сознанию. Но оба пути заканчиваются тупиком. Ни один из них не дает удовлетворительного ответа на трудные вопросы, стоящие перед нашей цивилизацией. Но и от их синтеза мы вряд ли можем ожидать многого. Попытка слить воедино два подхода, построенных на ущербных основаниях, в лучшем случае приведет к сохранению хрупкой напряженности между ними без всякой надежды на действительный прогресс.
В этой ситуации критически важен вывод, что наш выбор не сводится к двум вариантам. Не обязательно выбирать между расчеловечивающей сингулярностью и цунами популистского террора – или пытаться слить их в коктейль сомнительной пригодности. В нашем распоряжении есть другая стратегия, иная человеческая способность, на которую до настоящего момента не обращали внимания: фрейминг. Умение применять, оттачивать и заново создавать ментальные модели дает нам инструмент для решения наших проблем без того, чтобы полагаться на машину или принимать волю толпы.
В результате мы возвращаемся к Регине Барзилай. Мы обнаружили, что находимся на распутье. Перед нами стоят проблемы гигантского масштаба. Как и в случае с антибиотиками, многие наши уязвимости мы создали сами, они стали последствиями принятых решений, не замеченных альтернатив, не совершенных действий. Мы сами завели себя туда, где находимся. Хорошая новость заключается в том, что мы можем и вывести себя оттуда. Но для этого нужно научиться воспринимать мир по-другому.