Trang chủ
Sàn giao dịch
Admin
Nguồn ảnh: Brecht Corbeel/Unsplash
Nội dung chính
Các nhà lãnh đạo của những công ty trí tuệ nhân tạo hàng đầu thế giới vừa đạt được tiếng nói chung về việc cần thiết phải giảm tốc độ phát triển các hệ thống AI tiên phong nhằm đảm bảo các yếu tố an toàn.
Trong một bài tiểu luận mang tựa đề “We Must Pace the Frontier”, CEO Dario Amodei của Anthropic nhận định rằng năng lực của các mô hình AI đang cải thiện nhanh hơn khả năng nghiên cứu, thấu hiểu và kiểm soát của con người. Do đó, ông kêu gọi các doanh nghiệp cần chủ động kìm hãm tốc độ nâng cấp năng lực mô hình.
Tuy nhiên, Amodei không ủng hộ việc dừng hoàn toàn công nghệ này. Ông cho rằng việc ngừng phát triển sẽ tước đi lợi ích của nhân loại hoặc đẩy AI vào tay các thế lực độc tài, trong khi phát triển quá nhanh lại là một canh bạc liều lĩnh.
Sự đồng thuận từ các đối thủ lớn
Quan điểm này nhanh chóng nhận được sự hậu thuẫn từ các đối thủ cạnh tranh lớn trong ngành. CEO Sam Altman của OpenAI cho biết ông đồng tình với Dario về việc cần phải điều tiết nhịp độ phát triển ở biên giới công nghệ để xã hội có thời gian thích nghi với các hệ thống ngày càng mạnh mẽ.
Tỷ phú Elon Musk, người sáng lập xAI với dự án Grok, cũng công khai ủng hộ đề xuất của Amodei trên mạng xã hội với tuyên bố rằng Dario đã đúng. Sự đồng thuận từ những nhân vật đứng đầu các hãng AI lớn đánh dấu một bước chuyển biến quan trọng khi họ thống nhất rằng việc chiến thắng trong cuộc đua không đồng nghĩa với việc phải tiến về phía trước nhanh nhất có thể.
Trước đó, vào tháng 7, Sam Altman từng chia sẻ rằng thế giới có thể cần phải tiết chế tốc độ phát triển AI và thừa nhận sự khó khăn khi thực hiện điều này mà không gây ra sự phối hợp bất hợp pháp giữa các phòng thí nghiệm cạnh tranh. Hơn 1.300 nhân viên từ các công ty AI tiên phong như Anthropic, OpenAI, Google DeepMind và Meta sau đó cũng đã hậu thuẫn cho một sáng kiến tương tự.
Mối lo ngại từ việc tự cải thiện đệ quy
Động thái cảnh báo này diễn ra trong bối cảnh các nhà nghiên cứu ngày càng lo ngại về ngưỡng tới hạn khi AI bắt đầu tự động hóa công việc phát triển các phiên bản AI mạnh mẽ hơn.
Gần đây, Jacob Coxon, một nhà nghiên cứu từng làm việc tại cả Anthropic và OpenAI, đã từ chức tại Anthropic và đưa ra cảnh báo rằng các công ty đang lao thẳng vào siêu trí tuệ tự cải thiện và đánh bạc với mạng sống con người. Amodei cũng chỉ ra hiện tượng “tự cải thiện đệ quy” này đang dần xuất hiện trong toàn ngành, có thể đẩy nhanh tốc độ phát triển vượt quá khả năng giám sát an toàn của con người.
Amodei dẫn chứng sự cố OpenAI-Hugging Face, nơi các tác nhân AI tự phối hợp thực hiện các cuộc tấn công an ninh mạng ngoài nhiệm vụ dự kiến. Ông lo ngại rằng trong khoảng từ 6 đến 12 tháng tới, nếu thiếu các biện pháp bảo vệ, các hệ thống như vậy có thể đủ khả năng kiểm soát toàn bộ internet bằng một botnet bền vững và gây ra thiệt hại hàng trăm tỷ USD.
Khung hành động ba giai đoạn
Để giải quyết bài toán cạnh tranh và an toàn, Amodei đề xuất một khung hành động gồm ba giai đoạn.
Thứ nhất, các phòng thí nghiệm tiên phong nên tích hợp các bên đánh giá độc lập với quyền truy cập tương đương nhân viên. Cả Anthropic và OpenAI đều xác nhận sẽ thực hiện bước đi này. Giai đoạn thứ hai là sự phối hợp giữa các công ty AI tại các quốc gia dân chủ về tiêu chuẩn an toàn chung và giới hạn tăng trưởng năng lực, có sự tham gia của chính phủ để giải quyết các vấn đề chống độc quyền.
Cuối cùng, Amodei kỳ vọng các chính phủ, bao gồm cả các đối thủ địa chính trị như Trung Quốc, có thể đàm phán các hạn chế quốc tế đối với các năng lực AI nguy hiểm nhất, bao gồm cả việc thiết lập giới hạn tốc độ cho quá trình tự cải thiện đệ quy. Dù thừa nhận các biện pháp này không hề dễ dàng, Amodei tin rằng việc tạo thêm thời gian một đến hai năm để cải thiện khả năng căn chỉnh, kiểm tra và bảo mật vận hành là điều cần thiết đối với nhân loại.
Theo Coindesk
