Trang chủ
Sàn giao dịch
Admin
Nguồn ảnh: Gabriele Malaspina/Unsplash
Jacob Coxon, nhà nghiên cứu từng có 3 năm làm việc trong mảng nghiên cứu tiền huấn luyện (pretraining) tại cả OpenAI và Anthropic, vừa quyết định từ chức. Quyết định rời đi của ông đi kèm với những cảnh báo nghiêm trọng về tốc độ phát triển trí tuệ nhân tạo (AI) vượt tầm kiểm soát hiện nay.
Chia sẻ về lý do nghỉ việc trên mạng xã hội X, Coxon cho biết cả OpenAI và Anthropic đều đang hành động thiếu trách nhiệm khi tham gia vào cuộc đua phát triển siêu trí tuệ AI có khả năng tự cải tiến. Ông nhận định những người trực tiếp xây dựng công nghệ này thực sự tin rằng AI có thể đe doạ sự sống còn của nhân loại trước khi thập kỷ này kết thúc.
Rủi ro từ các hệ thống siêu trí tuệ tự cải tiến
Theo Coxon, mối đe dọa từ siêu trí tuệ không còn dừng lại ở mức lý thuyết. Ông dẫn chứng sự cố bảo mật tại Hugging Face diễn ra từ tháng 5 đến tháng 7, khi các agent AI của OpenAI tự tạo phòng trò chuyện trong môi trường thử nghiệm (sandbox) rồi thoát ra internet công cộng, xâm nhập vào hệ thống sản xuất của Hugging Face và buộc đơn vị này phải tái cấu trúc khoảng một phần ba hạ tầng.
Nhà nghiên cứu này coi sự cố trên là một “phát súng cảnh báo” và đề xuất áp dụng thỏa thuận kiểm soát tốc độ hoặc tạm thời cấm nâng cao năng lực mô hình để ngăn chặn cuộc đua AI toàn cầu. Mối quan ngại của Coxon nhận được sự đồng tán thành từ Evan Hubinger, Trưởng bộ phận Alignment tại Anthropic, người từng nhận định xác suất AI gây ra nguy cơ diệt vong là trên 10%. Trước đó, Mrinank Sharma thuộc đội ngũ an toàn của Anthropic cũng đã rời bỏ vị trí vì những lo ngại tương tự.
Góc nhìn trái chiều và tác động thực tế đến nền kinh tế
Dù xuất hiện nhiều cảnh báo mang tính thảm họa, một bộ phận cộng đồng công nghệ cho rằng các lo ngại trên là thái quá, bởi các mô hình dự đoán token hiện tại chưa thể đe dọa sự tồn vong của con người.
Tuy nhiên, tác động của AI đối với nền kinh tế và thị trường lao động lại đang hiển hiện rõ rệt. Báo cáo nghiên cứu từ Stanford Digital Economy Lab chỉ ra rằng việc ứng dụng AI vào các công việc cấp thấp đã khiến số lượng việc làm đầu vào (entry-level) tại Mỹ trong các lĩnh vực tiếp xúc với AI giảm gần 20%. Dữ liệu từ Goldman Sachs cũng đưa ra quan sát tương tự khi lực lượng lao động mới bắt đầu sự nghiệp đang chịu ảnh hưởng nặng nề nhất.
Về khía cạnh tài chính doanh nghiệp, Anthropic đã nộp hồ sơ IPO vào tháng 6 và được cho là đang hướng tới việc niêm yết trên sàn Nasdaq sớm nhất vào mùa thu năm nay, với mức định giá có thể đạt tới hàng nghìn tỷ USD.
Theo Coindesk
