Российский лидер отметил, что реклама такого рода стала появляться в связи с изменением интересов подростка: «Оказывается, машина, исходя из большого количества данных, пришла к выводу, что, в связи с изменением её интересов, предпочтений, запросов, машина имеет дело с беременной женщиной. Тогда она дала команду другой машине – давать рекламу товаров для беременных. Это же какой контроль возникает со стороны техники в вопросах контроля человека?!» [16].
Для того чтобы представить себе, насколько данная проблема глобальна и значима в будущем, следует обратить внимание на привлекательное событие 14 июня 2014 года, произошедшее в Китае. Дело в том, что Государственный Совет Китая опубликовал документ под названием «Проект плана по созданию системы социального кредита доверия». Как и все государственные документы Китая, он представляет собой довольно длинный и сухой текст, но в нём содержится одна радикальная идея: «Что, если бы каждому гражданину страны присваивался на государственном уровне рейтинг доверия?» [17].
Несложно представить мир, где многие повседневные занятия постоянно отслеживаются и оцениваются: покупки в магазинах и в интернете, местоположение в конкретное время, круг друзей и знакомых, количество времени, затраченное на просмотр различного контента (социальные сети, YouTube, Coub и пр.) и на видеоигры, какие счета и налоги оплачиваются, а какие нет, и т. д. Для этого в Китае по технологии организации Sesame Credit тестируется система оценки человека. При подсчёте «кредита доверия» этой системой пока учитываются пять факторов:
Кредитная история человека (своевременно ли оплачиваются счета).
Исполнительность (возможность пользователя исполнять обязательства по контракту).
Персональные данные (степень подтверждённости личной информации, например телефонного номера и адреса).
Поведение и предпочтения – такая, казалось бы, безобидная вещь, как предпочтения в плане покупок, становится характеристикой человека. Alibaba признает, что судит о людях по тому, что они покупают. Со слов директора технологии Sesame Credit Ли Инян: «Если человек играет по десять часов в день в видеоигры, он считается малоподвижным. Если кто-то часто покупает подгузники, система будет считать, что он, скорее всего, родитель. Люди, чей баланс счёта постоянно в плюсе, будут считаться более ответственными». Таким образом, система не просто изучает поведение людей – она его определяет, «вынуждает» граждан отказываться от покупок и действий, нежелательных для государства.