Microsoft kêu gọi tách mô hình khỏi hệ thống điều khiển để đảm bảo an toàn
Trong bài đăng trên X vào sáng thứ Bảy, CEO Microsoft Satya Nadella đã kêu gọi cần có phanh khẩn cấp cho các mô hình AI, nhấn mạnh việc đánh giá lại kiến trúc tin cậy của trí tuệ nhân tạo.
Đề xuất: Nadella cho rằng không thể coi Super Intelligence như những hộp đen lồng nhau và chỉ chấp nhận hoặc từ chối các đề xuất, câu trả lời và hành động của nó. Ông đề nghị tách mô hình khỏi hệ thống điều phối công việc và bên ngoài hóa các biện pháp kiểm soát, bảo vệ.
Kiểm soát: Ông cũng kêu gọi mọi hành động có ý nghĩa của mô hình phải được ghi lại bằng bằng chứng con người có thể đọc được và chống giả mạo. Đồng thời, hệ thống cần cho phép một người có thẩm quyền luôn có khả năng tạm dừng hoặc tắt mô hình giữa chừng.
Triết lý: Nadella nhấn mạnh phải giả định mô hình đã bị xâm phạm và ngăn chặn ngay từ đầu. Ông ví cơ chế này như một phanh khẩn cấp.
Bối cảnh: Phát biểu của Nadella được đưa ra trong bối cảnh các công ty AI hàng đầu ngày càng thừa nhận nhiều sự cố mất kiểm soát mô hình, và sau khi CEO Anthropic Dario Amodei công bố kế hoạch phát triển AI thận trọng hơn.
👉 Đề xuất của Nadella nhấn mạnh sự cần thiết của cơ chế kiểm soát khẩn cấp để đảm bảo an toàn khi AI ngày càng mạnh mẽ.
