2. Отсутствие понимания
Когда ИИ пишет стихотворение о любви, он не испытывает эмоций. Когда он диагностирует болезнь по снимку – не осознаёт, что такое «здоровье» или «смерть». Он лишь анализирует статистические закономерности в данных.
«Попросите ChatGPT объяснить, почему смешна его собственная шутка, – говорит профессор Сильверс. – Он даст правдоподобный ответ, но это будет новый текстовый паттерн3, а не настоящее понимание юмора.»
3. Нет гибкости человеческого мышления
Человек может:
– Применять знания из одной области в другой (например, использовать принципы биологии для решения инженерных задач);
– Действовать в условиях нехватки данных (интуиция, творческий подход);
– Осознавать себя и свои мыслительные процессы.
Современные ИИ на это не способны. Они:
– Работают только в рамках своих тренировочных данных;
– Теряются при встрече с принципиально новыми ситуациями;
– Не имеют ни сознания, ни целей.
Личное наблюдение
Когда я тестировал одну из моделей распознавания образов, она уверенно идентифицировала кошек на фотографиях – пока я не показал ей рисунок кошки, сделанный ребёнком. Система выдала ошибку. Настоящий AGI должен был бы понять, что это абстрактное изображение того же объекта.
4. Зависимость от данных
AGI теоретически мог бы:
– Самообучаться без огромных массивов данных;
– Формировать абстрактные концепции;
– Делать выводы из ограниченной информации.
Современные ИИ требуют:
– Миллионы примеров для обучения;
– Чётко поставленную задачу;
– Постоянную «подстройку» человеком.
«Мы создали ИИ, который обыгрывает людей в StarCraft, – рассказывает инженер Эрик Вандерсен. – Но, если немного изменить правила игры, ему придётся переучиваться практически с нуля. Человек адаптируется за несколько минут.»
5. Почему это важно понимать?
Путаница между продвинутым узким ИИ и AGI приводит к:
– Необоснованным страхам («ИИ скоро нас поработит!»);
– Завышенным ожиданиям («Почему этот ИИ не может X, если он такой умный?»);
– Опасной переоценке возможностей систем (например, слепое доверие медицинским диагнозам ИИ).
Современные системы – сложные статистические модели, а не разумные существа. Они преобразуют информацию, но не понимают её. Возможно, AGI когда-нибудь появится, но точно не в ближайшие годы.
Чем ИИ отличается от обычных программ?
На первый взгляд,