OpenAI hỏi Quốc hội liệu thỏa thuận làm chậm AI có thể vi phạm luật chống độc quyền

OpenAI đã hỏi các thành viên Quốc hội liệu các công ty AI có thể hợp pháp thỏa thuận làm chậm quá trình phát triển hay không. WIRED dẫn lời những người thân cận với OpenAI cho biết công ty đã hỏi các nhà lập pháp liệu một thỏa thuận như vậy có thể vi phạm luật chống độc quyền hay không. Nhà khoa học trưởng Jakub Pachocki kêu gọi tự nguyện làm chậm quá trình phát triển cho đến khi các nhà phát triển có thể chứng minh tốt hơn rằng hệ thống của họ an toàn. Miranda Bogen, giám đốc công nghệ tại Trung tâm Dân chủ và Công nghệ, cho biết sự cạnh tranh gay gắt về thương mại và địa chính trị khuyến khích các công ty tung sản phẩm trước khi những rủi ro của chúng được hiểu đầy đủ. Bogen nói các công ty chịu áp lực phải cắt giảm nghiên cứu và bỏ qua các bài kiểm tra an toàn ngay cả khi nhân viên nội bộ cho rằng cần thử nghiệm thêm. Một dự luật do các thượng nghị sĩ Adam Schiff và Jim Banks đệ trình sẽ bảo vệ một số hoạt động hợp tác về an ninh. Dự luật sẽ yêu cầu thông báo trước cho Bộ Tư pháp. Mỹ và Trung Quốc đang cạnh tranh để dẫn đầu về trí tuệ nhân tạo. Tổng thống Donald Trump đã trì hoãn một sắc lệnh hành pháp về AI vào tháng 5 vì lo ngại sắc lệnh này có thể làm suy yếu vị thế dẫn đầu của Mỹ so với Trung Quốc. Trump đã ký sắc lệnh vào tháng 6. Sắc lệnh thiết lập một quy trình đánh giá tự nguyện đối với các mô hình tiên tiến trước khi phát hành. Duncan Sabien, người đứng đầu bộ phận truyền thông tại Viện Nghiên cứu Trí tuệ Máy móc, cho biết các động lực tài chính khiến việc phối hợp trở nên khó khăn. Sabien nói mỗi bước tiến có thể tạo ra nhiều triệu hoặc hàng tỷ USD vốn tài trợ, đồng thời gia tăng quyền lực và ảnh hưởng của những người tạo ra nó. Sabien nói OpenAI và Anthropic chịu áp lực phải tiếp tục tiến lên vì mỗi hệ thống mới giúp xây dựng những hệ thống kế nhiệm có năng lực hơn. Ông nói một công ty có thể tụt lại nếu làm chậm mà không có thỏa thuận chung. Sabien cho biết năng lực trí tuệ đang tăng theo cấp số cộng dồn vì mỗi hệ thống có thể giúp việc huấn luyện và triển khai hệ thống tiếp theo dễ dàng hơn. Vào tháng 8, OpenAI đã tạm dừng dự án Astra nội bộ vì thiếu các biện pháp bảo vệ mạnh hơn trước những lo ngại về an ninh mạng. OpenAI và Anthropic đã nới lỏng các cam kết an toàn vào tháng 2. Giám đốc khoa học của Anthropic, Jared Kaplan, lập luận rằng việc đơn phương làm chậm lại trở nên kém hợp lý hơn trong khi các đối thủ vẫn tiếp tục tiến lên. Cựu kỹ sư Anthropic Jacob Coxon đã tuyên bố từ chức trong tuần này. Coxon viện dẫn lo ngại về những rủi ro mà việc tiếp tục phát triển AI gây ra cho nhân loại. Coxon nói các nhà phát triển AI tin rằng công nghệ này có thể giết chết tất cả mọi người vào cuối thập niên này. Sabien nói các nhà nghiên cứu có thể đạt được rất ít nếu rời đi trong khi một người khác thay thế họ. Sabien nói các nhà nghiên cứu có thể cùng dừng lại nếu đủ nhiều người đồng ý rằng tất cả họ nên dừng lại.