Универсальный ИИ – главная угроза человеческой стабильности[3], по мнению многих уважаемых ученых. Когда будет изобретена машина, способная решать все без исключения задачи за человека, а также создавать другие машины, умнее предыдущего поколения, человек станет зависимым от алгоритмов и утратит свою доминирующую позицию в мире. Может, это и не будет выглядеть как восстание машин из футуристического хоррора, но суть будет примерно той же – порабощение электронными мозгами мозгов человеческих.
Уже сейчас супермощные компьютеры за доли секунды производят вычисления, для которых Эйнштейну понадобились бы века. Беспилотные автомобили избегают ошибок управления, свойственных человеку, и могут работать без отдыха. Робот-бухгалтер готовит отчеты быстрее и точнее, при этом не требует доплату за сверхурочные часы. Вывод очевиден: люди-бухгалтеры, люди-водители, люди – финансовые брокеры, люди – математики и инженеры станут просто не нужны. И вопрос не в том, заменит ли ИИ человеческий труд, а в том, когда это произойдет. Авторы книги считают, что в ближайшие десятилетия.