«Можно провести следующую аналогию: сингулярность в истории человечества имела бы место в том случае, если бы экспоненциальный технический прогресс привел к драматическим изменениям в обществе, вследствие которых человеческие отношения в нашем сегодняшнем понимании подошли бы к концу. Признанные социальные институты – экономика, правительство, закон, государство – не смогли бы уцелеть в их нынешнем виде. Даже самые элементарные человеческие ценности – неприкосновенность жизни, стремление к счастью, свобода выбора – отменились бы сами собой»[11].
Тем не менее мир сингулярности не обязательно должен оказаться столь недружелюбным для человечества. Напротив, для Рэя Курцвейла, «верховного жреца» энтузиастов искусственного интеллекта, очевидно, что все получится как раз наоборот. Он предвкушает слияние между людьми и искусственным интеллектом, позволяющее нам успешно «загрузить» самих себя в нематериальные формы бытия и тем самым обеспечить людям вечную жизнь[12]. (Предполагается, что такой взгляд на будущее должен показаться нам более позитивным, верно? Не знаю, не уверен. Может быть, вам понравится, но лично меня перспектива быть навечно загруженным в какую-то форму искусственного интеллекта не очень привлекает.)
Для людей вроде меня, даже без всякой перспективы загрузки и вечной жизни, познакомиться с возможностями искусственного интеллекта и судьбой человечества после наступления сингулярности – значит окунуться в мир научной фантастики. Тем не менее в эпилоге я продемонстрирую, что не отвергаю такие идеи. Да и как я мог пройти мимо них? Если уж некоторые из величайших научных умов нашего времени, такие как сэр Стивен Хокинг и лорд Рис, восприняли подобные перспективы всерьез, едва ли я имею моральное право просто их проигнорировать.
И все-таки я глубоко осознаю разрыв между гипотетическим миром сингулярности, выглядящим как научная фантастика, и современными достижениями робототехники и искусственного интеллекта, которые влияют на экономику здесь и сейчас. Нынешние изменения в данной области требуют правильной реакции как со стороны компаний, так и со стороны частных лиц, преследующих свои собственные интересы, не говоря уже о правительствах, смыслом деятельности которых является достижение и поддержание общественного благополучия.