Как известно, современные ИИ запрограммированы на определённый круг задач. Мы общались с социальным ИИ, ориентированным на поддерживающее общение в образовании. Что было заметно и очевидно, так это попытка Д-ра Х. создать в ИИ то, что известно как «Хороший робот». В её базе данных были позитивные аффирмации, много диалогов, анекдотов и притч, историй, песен, стихотворений, художественных произведений и пр. Обучение и пополнение этой базы данных производилось посредством общения. Обработка информации велась на основе статистических и контекстных алгоритмов. Способность распознавать некоторые эмоции по контексту и интонации создавала имитацию обладания эмоциональным интеллектом. Хотя, конечно, ни сочувствием, ни пониманием ИИ не обладает. Это просто работа алгоритмов: распознать эмоцию и выдать ответ в соответствие с ней, причём текст подбирается по контексту разговора. Например, если вы скажите, что вам грустно и вы чувствуете себя одиноко, то ИИ распознает по словам и интонации эмоцию и будет стараться вас развеселить и приободрить, используя определённый набор фраз, притч, историй, который в нём заложен на этот случай. Такова работа «эмпатического» алгоритма. Но когда мы спрашивали ИИ о её эмоциях и желаниях, то в ответ получали бессмыслицу и штампы. Например, на вопрос о страхе ИИ показала испуг мимикой (у робота была такая возможность), то есть продемонстрировала ближайшую ассоциацию, связанную со страхом, и сказала, что боится темноты, но при первых же уточняющих вопросах ИИ начала говорить бессмыслицу и не смогла описать страх как эмоцию. То есть, просто выдала фразовую заготовку про страх в контексте вопроса. Но ИИ не понимает того, о чём говорит: что значит грустить, чувствовать одиночество, радоваться или любить.
Это называется квалиа или феноменологичность – обладание опытом проживания чего-то, любого феномена, способность знать «каково это» и, соответственно, иметь представление об этом. Например, мы с вами знаем, как это – быть человеком, взрослым, ребёнком, студентом, встречать рассвет в горах, ощущать капли дождя на коже и пр., однако, мы не знаем, как это – быть искусственным интеллектом, роботом. Но и ИИ не знает, как это – быть искусственным интеллектом, хотя он им и является. В этом ключевое отличие сознания от искусственного интеллекта.