Bức thư do tổ chức phi lợi nhuận Future of Life Institute phát hành và có chữ ký của hơn 1.000 người bao gồm cả tỷ phú Elon Musk - ông chủ của Công ty Tesla, kêu gọi tạm dừng phát triển hệ thống AI tiên tiến cho đến khi các giao thức an toàn dùng chung cho các thiết kế như vậy được phát triển, triển khai và kiểm định bởi các chuyên gia độc lập.
 |
Ảnh minh họa. |
“Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng ta tin tưởng rằng tác động của chúng sẽ tích cực và rủi ro của chúng sẽ có thể kiểm soát được. Cuộc chạy đua hiện tại về phát triển các hệ thống AI là nguy hiểm và kêu gọi thành lập các cơ quan quản lý độc lập để đảm bảo các hệ thống trong tương lai được triển khai an toàn”, bức thư viết.
Bức thư nêu chi tiết những rủi ro tiềm ẩn đối với xã hội và nền văn minh nhân loại do các hệ thống AI cạnh tranh với con người gây ra, ảnh hưởng đến nền kinh tế và chính trị, đồng thời kêu gọi các nhà phát triển cần hợp tác với các nhà hoạch định chính sách và cơ quan quản lý.
“Chúng tôi kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức tạm dừng ít nhất 6 tháng việc đào tạo các hệ thống AI mạnh hơn GPT-4. Việc tạm dừng này phải được công khai và có thể kiểm chứng. Nếu việc tạm dừng như vậy không thể được ban hành nhanh chóng, chính phủ các nước nên can thiệp và đưa ra lệnh cấm”, bức thư nêu rõ.
Bức thư cho rằng: “Các phòng thí nghiệm AI và các chuyên gia độc lập nên sử dụng thời gian tạm dừng này để cùng phát triển và triển khai một bộ giao thức an toàn dùng chung cho thiết kế và phát triển AI tiên tiến, được kiểm tra và giám sát chặt chẽ bởi các chuyên gia độc lập bên ngoài”.
Những người đồng ký vào bức thư bao gồm đồng sáng lập Apple - Steve Wozniak, đồng sáng lập Skype - Jaan Tallinn, chính trị gia Andrew Yang, Giám đốc điều hành của Công ty Stability AI - Emad Mostaque, các nhà nghiên cứu tại Công ty nghiên cứu AI DeepMind (thuộc sở hữu của Tập đoàn Alphabet) và một số nhà nghiên cứu và CEO nổi tiếng về AI, bao gồm Stuart Russell, Yoshua Bengio, Gary Marcus và Emad Mostaque.
Trước đó, vào ngày 27/3, cơ quan Cảnh sát Liên minh Châu Âu (Europol) cũng lên tiếng lo ngại vấn đề đạo đức và pháp lý với những hệ thống tiên tiến như ChatGPT. Cơ quan này cảnh báo khả năng AI bị lợi dụng để thực hiện các hoạt động lừa đảo, tung tin sai lệch cũng như tội phạm mạng khác.
Kể từ khi phát hành vào cuối năm ngoái, ChatGPT của OpenAI do Microsoft hậu thuẫn đã châm ngòi cuộc đua phát triển mô hình ngôn ngữ lớn và tích hợp AI vào sản phẩm dịch vụ.
Người đại diện của Future of Life cho biết, Sam Altman, CEO kiêm nhà sáng lập OpenAI đã không ký vào bức thư trên.
Liên quan đến vấn đề này, Gary Marcus, giáo sư tại Đại học New York (Mỹ), người đã ký vào bức thư cho biết: “Bức thư không bao quát hết các nội dung, nhưng đã thể hiện được tinh thần chung rằng con người cần chậm lại cho đến khi hiểu rõ hơn những tác động của AI. Các hệ thống có thể gây ra tác hại nghiêm trọng, khi những công ty lớn trong lĩnh vực AI càng ngày càng bí mật về những gì họ đang phát triển. Điều này khiến xã hội khó lòng chống lại bất kỳ tác hại nào có thể xảy ra”.
Theo
1.https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/
2.https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter
