Читать Chứng nhận nghiên cứu khoa học – 4 - Андрей Тихомиров

Trí tuệ nhân tạo đang phát triển (AI) có thể trở nên siêu thông minh và mạnh mẽ đến mức nó sẽ có thể dẫn đến những biến động xã hội lớn và thậm chí là sự hủy diệt của nhân loại, Tuần báo Cáo. Theo công bố, hơn 350 nhà nghiên cứu và kỹ sư gần đây đã đưa ra cảnh báo rằng trí tuệ nhân tạo gây nguy hiểm tương đương với rủi ro của đại dịch và chiến tranh hạt nhân. Trong một cuộc khảo sát của các chuyên gia được thực hiện vào năm 2022, xác suất trung bình mà trí tuệ nhân tạo sẽ gây ra sự tuyệt chủng hoặc sự suy giảm nghiêm trọng của nhân loại là 1 trên 10. Jeffrey Hinton, người thường được gọi là "cha đỡ đầu" của trí tuệ nhân tạo, không coi những mối quan tâm như vậy là tuyệt vời. Hinton từng nghĩ rằng mối nguy hiểm từ trí tuệ nhân tạo sẽ xuất hiện trong ít nhất 30 năm nữa. Tuy nhiên, bây giờ trí tuệ nhân tạo, theo ý kiến của ông, đang phát triển thành một siêu trí tuệ nhanh đến mức trong năm năm, nó có thể trở nên thông minh hơn con người. ChatGPT dựa trên trí tuệ nhân tạo và bing chatbot đã có thể vượt qua các kỳ thi để lấy luật và giấy phép y tế, và đạt 99% trong các bài kiểm tra IQ – nghĩa là đạt đến cấp độ thiên tài của con người. Hinton và các chuyên gia khác lo sợ khoảnh khắc trí tuệ nhân tạo sẽ có thể vượt qua con người trong hầu hết mọi nhiệm vụ. Một số chuyên gia trí tuệ nhân tạo so sánh khả năng này với sự xuất hiện đột ngột của một chủng tộc ngoài hành tinh vượt trội trên hành tinh của chúng ta. Vì vậy, Một nhà tiên phong khác trong lĩnh vực nghiên cứu trí tuệ nhân tạo, Nhà khoa học máy tính Stuart Russell nói: "Bạn Không biết họ sẽ làm gì khi đến đây, ngoài việc họ sẽ tiếp quản thế giới." Một trong những kịch bản khải huyền là những kẻ tấn công có thể sử dụng khả năng của trí tuệ nhân tạo để tạo ra vũ khí sinh học mới gây chết người hơn đại dịch tự nhiên. Một mối nguy hiểm khác là khi trí tuệ nhân tạo được tích hợp vào các hệ thống toàn cầu, những kẻ khủng bố và những kẻ tấn công khác có thể sử dụng nó để vô hiệu hóa cơ sở hạ tầng quan trọng và thị trường tài chính. Ngoài ra, như đã chỉ ra trong bài viết, trí tuệ nhân tạo có thể muốn trở nên hoàn toàn độc lập và để điều này hoàn toàn thoát khỏi sự kiểm soát của con người. Do đó, trí tuệ nhân tạo có thể lừa các nhà lãnh đạo của các quốc gia hạt nhân tin rằng kẻ thù đã phóng tên lửa, do đó buộc họ phải phóng tên lửa của riêng mình. Các nhà khoa học tin rằng sự phát triển nhanh chóng không kiểm soát được của trí tuệ nhân tạo, mạng nơ-ron và chatbot là nguy hiểm cho con người.