Trang chủ
Sàn giao dịch
Admin
Nguồn ảnh: Zach M/Unsplash
Anthropic vừa chính thức công bố hợp tác với tập đoàn tư vấn Accenture để thực hiện đánh giá độc lập các mô hình trí tuệ nhân tạo (AI). Đây được xem là bước đi đầu tiên nhằm hiện thực hóa lộ trình làm chậm tốc độ phát triển AI mà CEO Dario Amodei đã đề xuất vào giữa tháng 9.
Cơ chế đánh giá nhúng (Embedded Evaluation)
Theo thỏa thuận, Accenture và bộ phận chuyên trách về AI của họ là Faculty sẽ tham gia vào các hoạt động đánh giá, thực hiện các bài kiểm tra đối kháng (red-teaming), cũng như đánh giá mức độ căn chỉnh và bảo mật cho các mô hình của Anthropic.
CEO Dario Amodei từng cảnh báo rằng tốc độ phát triển của AI đang nhanh hơn khả năng kiểm soát của con người, đặc biệt là khi các hệ thống tự cải thiện (recursive self-improvement). Do đó, ông đề xuất cần có các đơn vị đánh giá độc lập sở hữu quyền truy cập sâu như nhân viên nội bộ để giám sát quá trình phát triển.
Phía Anthropic thừa nhận mô hình “đánh giá nhúng” này vẫn còn khá mới mẻ và các chi tiết vận hành cụ thể vẫn đang trong quá trình hoàn thiện.
Đầu tư quy mô lớn cho sự an toàn
Để triển khai dự án này, cả Anthropic và Accenture dự kiến sẽ đầu tư ít nhất 1 tỷ USD mỗi bên trong vòng 5 năm tới. Do hiện tại chưa có hệ thống ngân sách chung hoặc nguồn tài trợ từ chính phủ cho hoạt động đánh giá độc lập, Anthropic quyết định trực tiếp tài trợ cho các công việc của Accenture trong giai đoạn này.
Đại diện Accenture, bà Julie Sweet – Chủ tịch kiêm CEO, nhận định rằng đánh giá nhúng là một lĩnh vực mới nổi và là thành phần quan trọng trong bối cảnh an toàn AI trong tương lai. Anthropic nhấn mạnh đây là quan hệ đối tác không độc quyền; công ty dự kiến sẽ công bố thêm các đối tác đánh giá khác trong những tuần tới.
Trước đó, đề xuất về việc làm chậm tốc độ phát triển AI của ông Amodei đã nhận được phản ứng trái chiều từ giới lãnh đạo công nghệ. Trong khi CEO Sam Altman của OpenAI và CEO Elon Musk của SpaceX thể hiện sự ủng hộ, CEO Jensen Huang của Nvidia lại bày tỏ quan điểm không đồng tình và cho rằng các quy định như vậy là không cần thiết.
Theo Cointelegraph
