Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе - страница 9

Шрифт
Интервал

В третьей части я предлагаю стратегические и тактические решения всех проблем, перечисленных в сценариях, а также конкретный план исправления настоящего. Третья часть, по моему замыслу, должна заставить нас действовать, поэтому в ней содержатся конкретные рекомендации для правительств, «Большой девятки» и даже вас лично.

* * *

Каждый человек из числа живущих сегодня способен сыграть серьезную роль в будущем ИИ. Решения, которые мы принимаем относительно ИИ сейчас – казалось бы, даже самые незначительные, – навсегда изменят ход человеческой истории. Машины пробуждаются, и в один прекрасный день мы можем понять, что вопреки нашим надеждам и альтруистическим амбициям воздействие наших систем ИИ на человечество было катастрофическим.

Но подобное развитие событий отнюдь не предопределено.

«Большой девятке» в моем рассказе вовсе не отводится роль злодея. Напротив, входящие в нее компании – наша главная надежда на лучшее будущее.

Переверните страницу. Мы не можем пассивно ждать, что принесет нам будущее. ИИ уже среди нас.

Часть 1

Духи внутри машины

Глава 1

Разум и машина: очень краткая история ИИ

Корни современного ИИ берут свое начало в далеком прошлом, задолго до того, как «Большая девятка» создала наших электронных помощников: Сири, Алексу и их китайского коллегу Тян Мао. И за все это время не было создано единого определения ИИ, подобного тому, что существует для других технологий. Когда дело касается ИИ, оказывается, что сложно дать его конкретное описание, поскольку он представляет собой разные вещи, даже когда отрасль продолжает развиваться. То, что вполне можно было назвать ИИ в 1950-х – калькулятор, способный выполнять деление столбиком, – сегодня едва ли воспринимается как шедевр технологии. Это явление известно под названием «парадокса невозможного» – как только новая технология становится частью мейнстрима, мы перестаем ее замечать. Мы больше не воспринимаем ее как ИИ.

В самой базовой форме ИИ представляет собой систему, самостоятельно принимающую решения. Действия, выполняемые ИИ, повторяют работу человеческого разума или подражают ей. Примерами могут служить распознавание звуков и изображений, решение задач, понимание естественного языка, использование стратегии для достижения целей. Некоторые системы ИИ огромны и способны осуществлять миллионы вычислений, в то время как другие – узки и предназначены для решения всего одной задачи, например поиска обсценной лексики в сообщениях электронной почты.

Следующая страница