Но что же такое искусственный интеллект на самом деле? И когда мы сможем сказать, что создали нечто, превосходящее человеческий разум?
Илон Маск, один из пионеров в области ИИ, предлагает интересную перспективу: «Я думаю, что люди никогда не признают, что ИИ уже создан. Они будут постоянно передвигать целевую черту».
Действительно, история развития ИИ – это история постоянно меняющихся определений. То, что казалось невозможным вчера, сегодня стало обыденностью. Компьютеры уже превзошли людей в шахматах, го и многих других областях. Но достаточно ли этого, чтобы назвать их «разумными»?
AGI (искусственный общий интеллект) – это система, которая умнее, чем коллективный разум всего человечества.
Это поразительно высокая планка. Речь идет не просто о системе, способной превзойти отдельного человека в определенной области, но о чем-то, что сможет превзойти совокупные знания и способности всех людей на планете.
Этические дилеммы на пути к сверхразуму
Создание такого мощного интеллекта ставит перед нами серьезные этические вопросы. Как обеспечить, чтобы эта сила была использована во благо человечества? Как предотвратить потенциальные злоупотребления?
Если вы заставляете ИИ лгать или обучаете их лгать, вы действительно напрашиваетесь на неприятности. Даже если эта ложь делается с благими намерениями.
Эта мысль заставляет задуматься о текущих тенденциях в разработке ИИ. Многие компании стремятся создать «этичные» системы, которые избегают потенциально оскорбительных или спорных высказываний. Но не рискуем ли мы при этом создать системы, которые будут искажать реальность в угоду политкорректности?
Если Вы просите Gemini (систему ИИ от Google) создать изображение отцов-основателей США, и она выбирает группу разнообразных женщин. Это фактически неверно.
Хотя этот пример может показаться тривиальным, он поднимает серьезный вопрос: что произойдет, если мы создадим сверхинтеллект, запрограммированный на достижение определенных социальных целей, даже если эти цели противоречат исторической правде или объективной реальности?
Инженерное искусство создания ИИ
Создание искусственного интеллекта – это не только философская и этическая проблема, но и колоссальная инженерная задача.
Существуют следующие базовые подходы к решению сложных инженерных проблем: