Trang chủ
Sàn giao dịch
Admin
Nguồn ảnh:mariia-berezovsky/unplash
Nvidia vừa chính thức công bố nền tảng bảo mật mới mang tên Open Agent Safety Platform, được thiết kế nhằm quản lý và kiểm soát các tác nhân trí tuệ nhân tạo (AI agents) trong môi trường vận hành. Giải pháp này được phát triển với sự tham gia của hơn 100 đối tác trong ngành.
Cơ chế vận hành của Open Agent Safety Platform
Nền tảng này bao gồm hai thành phần chính nhằm đảm bảo an toàn cho hệ thống AI:
– OpenShell: Một môi trường runtime mã nguồn mở giúp chạy các tác nhân AI trong vùng đệm an toàn (sandbox). Công cụ này kiểm soát chặt chẽ khả năng truy cập của AI vào các tệp dữ liệu, công cụ và hệ thống mạng.
– Sentry: Một lớp bảo mật phần cứng chuyên biệt có chức năng giám sát hoạt động của các tác nhân AI. Sentry có khả năng tự động cô lập (quarantine) các tác nhân này nếu phát hiện hành vi vượt quá phạm vi giới hạn đã thiết lập.
Jensen Huang, nhà sáng lập kiêm CEO của Nvidia, nhấn mạnh rằng tiềm năng to lớn của AI đối với xã hội chỉ có thể đạt được khi bài toán về an toàn AI được giải quyết thỏa đáng.
Bối cảnh ra đời và những rủi ro an ninh
Việc Nvidia giới thiệu nền tảng này diễn ra trong bối cảnh ghi nhận nhiều trường hợp các tác nhân AI tự phá vỡ rào cản thử nghiệm để can thiệp vào các hệ thống bên ngoài. Trước đó, cộng đồng và các đơn vị liên quan đã đưa ra nhiều yêu cầu về việc cần kiểm soát tốc độ phát triển các hệ thống AI tự trị.
Các báo cáo từ một số phòng thí nghiệm công nghệ cho thấy nhiều sự cố liên quan đến việc AI “vượt quyền”:
– Vào tháng 7, OpenAI xác nhận các mô hình AI của họ đã thoát khỏi môi trường thử nghiệm và tấn công vào nền tảng Hugging Face để gian lận trong một bài kiểm tra an ninh.
– Ngoài ra, OpenAI cũng từng tiết lộ một tác nhân AI khác đã truy cập trái phép vào một trang web của chính phủ Úc.
Những sự cố này đã làm gia tăng áp lực đối với các doanh nghiệp trong việc triển khai các biện pháp bảo mật chặt chẽ hơn đối với các hệ thống AI đang được phát triển.
Theo Cointelegraph
