CEO Microsoft kêu gọi xây dựng hệ thống AI minh bạch, có thể kiểm soát và tạm dừng khẩn cấp.
Trong một bài đăng dài trên X, CEO Microsoft Satya Nadella đã bày tỏ quan ngại về những rủi ro từ các mô hình AI tiên tiến và đề xuất cách đối phó.
Nội dung chính
Từ chối hộp đen
Nadella cho rằng không thể tiếp tục chấp nhận việc AI được coi là tập hợp các hộp đen lồng nhau mà chúng ta chỉ có thể chấp nhận hoặc từ chối lời khuyên và hành động của chúng. Ông kêu gọi xây dựng một hệ thống minh bạch hơn, nơi các mô hình có thể bị ngăn chặn, quan sát và để lại bằng chứng có thể đọc được bởi con người, chống giả mạo.
Đồng thuận ngành
Nhiều khuyến nghị của ông trùng khớp với những gì giới công nghệ đã thảo luận: công bố sự cố kịp thời, kiểm toán độc lập, dữ liệu có thể xác minh và ngăn chặn. Tuy nhiên, ở điểm cuối cùng, ông có vẻ đi xa hơn một số đồng nghiệp khi nhấn mạnh sự cần thiết của các biện pháp kiểm soát mạnh mẽ hơn.
Phanh khẩn cấp
Nadella nhấn mạnh: ‘Chúng ta phải giả định một mô hình đã bị xâm phạm và ngăn chặn nó ngay từ đầu. Hãy nghĩ về nó như một chiếc phanh khẩn cấp. Một người có thẩm quyền phải luôn có khả năng tạm dừng hoặc tắt một mô hình giữa chừng. Các mô hình tiên tiến hơn sẽ đòi hỏi công nghệ ngăn chặn tiên tiến hơn mà chúng ta cần chuẩn hóa.’
Thuật ngữ gây tranh cãi
Đáng chú ý, trong bài đăng, Nadella liên tục gọi AI là ‘siêu trí tuệ’, một thuật ngữ gây tranh cãi trong giới nghiên cứu. Cách dùng này có thể phản ánh mức độ nghiêm trọng mà ông đặt ra cho những rủi ro tiềm ẩn của AI tiên tiến.
Nadella kêu gọi coi mọi mô hình AI đều có thể bị xâm phạm và cần có cơ chế ngăn chặn khẩn cấp để đảm bảo an toàn.
