Trang chủ
Sàn giao dịch
Admin
Nguồn ảnh: scott-graham/unplash
Việc kiểm tra các mô hình trí tuệ nhân tạo (AI) của các công ty công nghệ lớn hiện nay đang đối mặt với rào cản lớn về quyền riêng tư và bảo mật dữ liệu. Các nhà phát triển thường chỉ cho phép bên thứ ba tiếp cận những gì họ muốn chia sẻ.
Thách thức trong việc kiểm thử mô hình AI
Một mô hình AI đã qua huấn luyện thực chất là một tệp dữ liệu chứa rất nhiều con số với chi phí sản xuất đôi khi vượt quá 100 triệu USD. Bất kỳ ai sở hữu một bản sao cũng đều nắm giữ toàn bộ mô hình đó, điều này tạo ra rủi ro an ninh nghiêm trọng.
Trước đây, tình trạng này đặt các nhóm kiểm thử độc lập vào thế tiến lưỡng nan, từng được Google DeepMind mô tả rõ ràng. Một là phía kiểm thử phải giao trước danh sách câu hỏi cho công ty công nghệ, hoặc hai là công ty phải bàn giao trực tiếp mô hình cho bên kiểm tra.
Giải pháp thử nghiệm mù kép từ DeepMind
Vào tháng 8, Google DeepMind đã giới thiệu một phương pháp giải quyết bài toán này thông qua quy trình thử nghiệm mù kép đầu tiên trên thế giới cho một mô hình AI, áp dụng nguyên tắc tương tự như thử nghiệm lâm sàng dược phẩm.
Quá trình này được thực hiện trên phần cứng máy tính được niêm phong, phối hợp cùng Viện An toàn AI Singapore và ba nhóm độc lập khác. Nhờ vậy, các bên kiểm thử bên ngoài không phải nhìn thấy mô hình, và Google cũng không thể biết trước các câu hỏi kiểm tra.
Google cho biết cả hai phía đều có thể kiểm tra bằng toán học để đảm bảo tài liệu của mình được giữ kín hoàn toàn. Phương pháp này chuyển sự tin tưởng sang lớp phần cứng.
Mặc dù giới nghiên cứu từng xâm nhập vào loại phần cứng niêm phong này vào năm ngoái với thiết bị trị giá chưa đến 1.000 USD nhưng cần quyền truy cập vật lý vào máy chủ, đây vẫn là một vấn đề nhỏ hơn nhiều so với việc tuyệt đối không cho phép bất kỳ ai tiếp cận mô hình. Rủi ro này có thể được quản lý thông qua việc kiểm soát cẩn thận ai là người nắm quyền vận hành các cỗ máy đó.
Theo Coindesk
