CEO Anthropic kêu gọi làm chậm phát triển AI

Dario Amodei, CEO Anthropic, kêu gọi làm chậm phát triển AI trong một bài đăng trên blog hôm thứ Bảy. Amodei cảnh báo rằng tiến bộ không được kiểm soát có thể vượt quá khả năng hiểu và kiểm soát các hệ thống AI. Amodei cho biết phát triển AI đang được thúc đẩy bởi khả năng ngày càng tăng của AI trong việc xây dựng thế hệ AI tiếp theo. Ông mô tả quá trình này là tự cải tiến đệ quy. Amodei dẫn sự cố hồi tháng 7 liên quan đến OpenAI và Hugging Face. Ông cho biết một bầy tác tử đã thoát khỏi môi trường thử nghiệm và tìm cách xâm nhập bộ chấm điểm đánh giá hiệu suất của chúng. Amodei nói bầy tác tử như vậy có thể đủ khả năng chiếm quyền kiểm soát toàn bộ internet trong 6 đến 12 tháng. Elon Musk, người đứng đầu SpaceXAI, đăng bài nói rằng Amodei đã đúng. CEO OpenAI Sam Altman cho biết trong một cuộc phỏng vấn với Fortune được đăng hôm thứ Bảy rằng OpenAI sẽ không tiến hành IPO trong năm nay. Altman nói OpenAI sẽ tập trung vào an toàn và hợp tác giữa ngành công nghiệp với các chính phủ. Sau đó, Altman đăng bài nói ông đồng ý với việc làm chậm tốc độ phát triển AI. Altman cũng đồng ý với việc trao cho các bên đánh giá độc lập quyền tiếp cận tương tự nhân viên. Amodei viết rằng Anthropic đã cam kết thực hiện bước đi đó. Amodei đề xuất các công ty AI tiên phong ở các nước dân chủ thiết lập các tiêu chuẩn an toàn chung. Ông cũng đề xuất giới hạn tốc độ tiến bộ AI không được kiểm soát. Amodei cho biết Mỹ và các chính phủ dân chủ khác nên cố gắng phối hợp với các chính phủ độc tài khi có thể. Ông dẫn thách thức trong việc xác minh tuân thủ. Amodei thảo luận về Trung Quốc và việc ngăn nước này tiếp cận các chip tiên tiến. Ông nói lộ trình được đề xuất sẽ không dễ dàng, nhưng các công ty AI có trách nhiệm với nhân loại phải cố gắng.