OpenAI 詢問國會：AI 減速協議是否可能違反反托拉斯法

OpenAI 詢問國會議員，AI 公司是否合法可以同意放慢開發。WIRED 引述接近 OpenAI 的人士表示，該公司詢問議員這類協議是否可能違反反托拉斯法。首席科學家 Jakub Pachocki 呼籲自願放慢開發，直到開發商能更充分證明其系統安全為止。民主與科技中心首席技術專家 Miranda Bogen 表示，激烈的商業與地緣政治競爭，鼓勵公司在產品風險尚未完全釐清前就發布產品。Bogen 表示，即使公司內部人員認為需要更多測試，公司仍面臨減少研究並跳過安全測試的壓力。Adam Schiff 與 Jim Banks 兩位參議員提出的法案，將保護某些安全合作。該法案將要求事前通知司法部。美國與中國正競逐人工智慧領導地位。川普總統因擔心人工智慧行政命令可能削弱美國對中國的領先優勢，在5月延後簽署該命令。川普在6月簽署命令。該命令在先進模型發布前建立自願審查程序。機器智慧研究所（Machine Intelligence Research Institute）傳播主管 Duncan Sabien 表示，財務誘因使協調變得困難。Sabien 表示，每項進展都可能帶來數百萬或數十億美元的資金，並提升創造者的權力與影響力。Sabien 表示，OpenAI 與 Anthropic 面臨持續推進的壓力，因為每個新系統都有助於打造能力更強的後繼系統。他表示，如果一家公司在沒有共同協議的情況下放慢腳步，可能會落後。Sabien 表示，智慧能力的提升正在複合增長，因為每個系統都能讓下一個系統更容易訓練與部署。8月，OpenAI 暫停內部 Astra 工作，因為缺乏針對網路安全疑慮的更強防護措施。OpenAI 與 Anthropic 在2月放寬了安全承諾。Anthropic 首席科學官 Jared Kaplan 主張，在競爭對手持續推進的情況下，單方面放慢腳步已較無意義。前 Anthropic 工程師 Jacob Coxon 本週宣布辭職。Coxon 表示，他擔心持續發展 AI 對人類構成的風險。Coxon 表示，AI 開發者相信這項技術可能在本十年結束前殺死所有人。Sabien 表示，如果另一個人會取代研究人員，研究人員離開可能無法取得什麼成果。Sabien 表示，只要有足夠多研究人員同意應該全部停止，他們就可能一起停下來。