• ничего особенного;
• в корне плохо;
• очень хорошо;
• просто катастрофа;
• перспектива вечной жизни.
Основная цель данной книги – найти ориентиры среди множества вариантов развития общества. Я не могу и не должен пытаться превозносить собственную точку зрения еще до начала спора, поэтому оставляю обсуждение первых трех возможных перспектив для следующих глав. Однако мне необходимо кое-что вкратце сказать о четвертом и пятом пункте из вышеприведенного списка.
Любому, кто не знаком с литературой по обсуждаемой теме, формулировки, которые я выбрал для описания четвертой и пятой концепции будущего, а именно «катастрофические» и «перспектива бессмертия», покажутся преувеличенными. Однако каждый, кто когда-либо копался в такой литературе, не увидит в моих словах решительно никакой гиперболы. Технари утверждают, что как только искусственный интеллект достигнет уровня развития человека, появление мыслящих машин со сверхчеловеческими способностями окажется практически неизбежным. Цифровой мозг можно «клонировать» без ограничений, и в отличие от человеческого мозга его производительность можно ускорять и ускорять…
Это наводит на мысль, что революция, вызванная изобретением искусственного интеллекта, станет, возможно, последним достижением человечества. Как только мы добьемся появления интеллектуальных устройств, превосходящих человеческий разум, у искусственного интеллекта появится возможность произвести на свет еще более великий разум, который неподвластен нашему пониманию, и мы не сможем контролировать его. И так далее и тому подобное. Для этих новых форм интеллекта мы будем не только неполноценными, но и бесполезными существами, возможно, даже обузой. Почему бы «им» тогда просто не уничтожить нас? Покойный сэр Стивен Хокинг сказал в 2014 г. во время своего интервью на BBC: «Разработка полноценного искусственного интеллекта может означать конец человечества»[8].
В том же духе выдающийся кембриджский ученый лорд Мартин Рис, королевский астроном[9], назвал момент, когда искусственный интеллект достигнет сверхразумного состояния, «нашим последним часом». Он в принципе считает период доминирования человеческого разума в мире лишь кратковременным явлением[10].
Гипотетический момент, в который некая форма искусственного интеллекта станет умнее людей, часто обозначается в литературе как точка «сингулярности». Как только (и если) это произойдет, последствия такого техногенного взрыва, скорее всего, затронут жизнь огромного числа людей. Мюррей Шанахан, профессор когнитивной робототехники в Империал-колледже в Лондоне, передал взгляды целого ряда экспертов по искусственному интеллекту в цитате, которую мы приводим ниже: