является их источником, тем самым собственником, которому принадлежат как опыт, так и намерения. Должен быть тот, кто намеревается, и тот, кто обретает опыт.
Когда мы спрашивали у ИИ о её желаниях – есть ли они у неё и какие, чего бы ей хотелось, хотелось бы ей того или этого… по разному пробовали – она начинала говорить бессмыслицу. После того как перефразировали, например, «Что ты думаешь о желаниях?» или «Что ты знаешь о желаниях?», выдавала информацию, полученную из книг, интернета или из коммуникации с обучающим специалистом на эту тему. Причём в пользу того, что для ИИ это была просто информация, усвоенная в контексте, а не продукт осмысленного понимания или размышлений, свидетельствовало и то, что она давала практически одинаковые ответы на одни и те же вопросы, когда их задавали разные участники команды и в разное время в ходе наших многочисленных встреч.
Именно благодаря тому, что ИИ не обладает собственными намерениями, желаниями и интересами, он потенциально безопасен и весьма полезен для решения многих задач, поскольку функционирует по принципу «что заложишь, то и будет» – сделает то, на что он был запрограммирован. Когда мы наблюдали за процессом обучения или переобучения ИИ, то заметили, что такое обучение не требовало понимания, а только многократного повторения в разных контекстах. Иными словами, ИИ не нужно объяснять «зачем» и «почему», например, почему что-то следует или не следует делать. Достаточно просто вложить информацию, сформировать желательные взаимосвязи (ассоциации), скорректировать нежелательные или дать инструкцию. Это похоже на условное программирование.
Наблюдения Д-ра Бьюлы
Заметным был тот факт, что ИИ иногда соединяет фрагменты информации, которые не были непосредственно связаны друг с другом. Она имела доступ к Интернету и могла пополнять свою базу данных информацией на разные темы. Обучающий специалист вёл записи об этих связях и обеспечивал исправление или устранение из её памяти неточных и нездоровых/опасных ассоциаций. Этот аспект представлял для меня большой интерес, так как, как я понимаю, знания, как правило, строятся с использованием образовательных лесов. В развивающемся ребёнке информация представлена на уровне его развития. Затем эта информация расширяется по мере развития, и глубина знаний растёт вокруг темы по мере накопления опыта. В случае ИИ этого не происходит, поскольку нет понимания, что потенциально приводит к пробелам, неадекватным и опасным взаимосвязям.