Создатель технологии Ян Гудфеллоу прогнозирует, что через 10 лет YouTube заполнят фейковые видеоролики, которые трудно будет отличить от реальных.
Алгоритм Nvidia недавно научился генерировать пугающе убедительные видеоролики. В сети уже доступно программное обеспечение, которое позволяет накладывать лица знаменитостей или любых других людей на видеоряд в порнофильмах.
В то же время ученые со всего мира работают над системами имитации речи, мимики и жестов. Сегодня ничто не мешает создать видео, на котором известный политический лидер вполне убедительно говорит то, чего он никогда не произносил. При этом его голос и мимика почти не отличаются от реальных.
Такие разработки могут привести к дипломатическим манипуляциям и даже войнам. Достаточно сделать ролик, на котором Дональд Трамп или Ким Чен Ын объявляют ядерную войну, и последствия будут непредсказуемыми. Либо наоборот, «дружат семьями».
Другая форма манипуляции позволяет имитировать демократию, а точнее, народное волеизъявление. Вот только роль народа будут выполнять боты. Они будут голосовать на онлайн-референдумах, присылать письма в администрацию и участвовать в масштабных государственных опросах.
Этим летом боты атаковали сайт Федеральной комиссии по связи США – более миллиона виртуальных «граждан» оставили комментарии с просьбой отменить сетевой нейтралитет.
По утверждению автора этой статьи, А. Овадья допускает, что со временем на смену ботам придут и реальные люди. Их аккаунты в соцсетях, а с ними и активность владельцев аккаунтов, можно будет купить на черном рынке. «Фабрики троллей» существуют и сейчас, но в будущем они получат более широкое распространение и вырастут в масштабах.
Другой сценарий, о котором предупреждает этот эксперт, связан с «точечным фишингом». Если раньше спамеры и кибермошенники рассылали всем одинаковые письма и сообщения в надежде вызвать отклик, то теперь хакеры смогут подобрать ключ к каждому пользователю.
Например, сымитировать речь друга и попросить о деньгах с максимальной убедительностью, используя характерный сленг. Людям проще будет прекратить проверять почту. В результате у пользователей интернета выработается «апатия к реальности, признание собственной неспособности отличить факт от вымысла: «Люди перестанут обращать внимание на новости, а определенный уровень информированности, необходимый для демократии, окажется под вопросом»