Лично у меня больше опасений вызывает не искусственный интеллект, а вполне человеческий технократический разум, которым обладают люди, принимающие решения.
Беда в нем, а не в искусственном интеллекте – это раз, и в «цивилизации статуса» – это два. Всегда в ходе развития люди выбирают: быть многим или обладать многим. Когда один руководитель оценивает другого по тому, есть ли у него личный туалет в кабинете, – то здесь «шестеренки зацепляются» и приоритет статусности ведет за собой принцип «я начальник, ты дурак», гарантируя стремление к технократической простоте решений.
В свое время философ и методолог Георгий Петрович Щедровицкий отчетливо сформулировал: «Попытка простого решения сложных проблем – это и есть то, что мы называем фашизмом». Примитивные решения, принимаемые в сложном мире, ведут к ужасным последствиям.
Ключевые риски человечества не в искусственном интеллекте, а в жажде простых решений.
●
Несколько лет назад психологи ставили задачи на исследование кратковременной памяти. Шахматистам на короткий момент высвечивали фигуры и потом спрашивали, сколько фигур стоит на доске, как стоят, где стоят. Шахматисты не успевали ответить, не успевали увидеть, не успевали запомнить. Но среди этих шахматистов был один гроссмейстер, который поглядел на психологов, мучивших его, и сказал: «Я вот что вам скажу. Я не помню, сколько фигур стояло на доске, я не помню, как они стояли. Но если белые начинают, то они дают мат в два хода!»
Человек – это генератор смыслов.
Точен ли психологический диагноз от Александра Сергеевича Пушкина: гений – парадоксов друг?
Почему человечество не устает искать смыслы в выплескивающихся за рамки рациональности, кажущихся нелепыми поступках донкихотов, чаадаевых, сахаровых?..
Чем далее мы прорываемся в моделировании других форм интеллекта, тем более ценным для нас открывается человеческое в человеке. Для меня ярким символом человеческого в человеке служит Дон Кихот – причем неразрывно со своим столь же человеческим Санчо Пансой.
Предсказуемое адаптивное поведение ограничивается принципом «подобное притягивается подобным», но на протяжении всей истории то один, то другой человек с риском для себя вопреки любым проверенным алгоритмам и нормам разума «отвечает на подобное бесподобным». Вспомним восклицание Александра Сергеевича, однажды о себе заметившего: «Ай да Пушкин, ай да сукин сын!» Ключевая особенность человека – почувствуйте это – непредсказуемость для самого себя. Здесь ключ. Такой код ни в какого робота не заложишь.