OpenAI、AI開発の減速合意が独占禁止法に違反し得るか議会に質問

OpenAIは、AI企業が開発を遅らせることで法的に合意できるか、議員らに質問した。WIREDは、同社に近い関係者の話として、OpenAIがそのような合意が独占禁止法に違反し得るかを議員に尋ねたと報じた。チーフサイエンティストのヤクブ・パチョッキ氏は、開発者が自社システムの安全性をより十分に示せるようになるまで、自主的な開発減速を求めた。Center for Democracy and Technologyのチーフテクノロジスト、ミランダ・ボーゲン氏は、激しい商業・地政学的競争が、企業にリスクを十分に理解する前に製品を投入するよう促していると述べた。ボーゲン氏は、社内スタッフがさらなるテストが必要だと考えている場合でも、企業は研究を縮小し、安全性テストを省く圧力に直面していると述べた。アダム・シフ上院議員とジム・バンクス上院議員が提出した法案は、特定の安全保障協力を保護するものだ。法案は司法省への事前通知を義務付ける。米国と中国は人工知能の主導権をめぐって競争している。ドナルド・トランプ大統領は5月、AIに関する大統領令が中国に対する米国の優位を弱める可能性への懸念から、同令を延期した。トランプ氏は6月にその命令に署名した。命令は、先進モデルを公開する前の自主的な審査プロセスを設けた。Machine Intelligence Research Instituteの広報責任者、ダンカン・セービエン氏は、金銭的インセンティブが協調を難しくしていると述べた。セービエン氏は、進歩1つにつき数百万ドル、あるいは数十億ドルの資金を生み、開発者の権力と影響力を高める可能性があると述べた。セービエン氏は、OpenAIとAnthropicは、新たなシステムがそれぞれより高性能な後継システムの構築に役立つため、進歩を続ける圧力に直面していると述べた。同氏は、共有された合意なしに減速すれば、企業は後れを取る可能性があると述べた。セービエン氏は、各システムが次のシステムの訓練と展開を容易にできるため、知能の向上は複利的に進んでいると述べた。8月、OpenAIは、サイバーセキュリティ上の懸念に対するより強固な安全策を欠いていたため、社内のAstra作業を停止した。OpenAIとAnthropicは2月、安全への取り組みを緩和した。Anthropicのチーフ・サイエンス・オフィサー、ジャレッド・カプラン氏は、競合他社が進歩を続ける中で、単独で減速する意味は薄いと主張した。元Anthropicのエンジニア、ジェイコブ・コクソン氏は今週、辞任を発表した。コクソン氏は、AI開発の継続が人類にもたらすリスクへの懸念を理由に挙げた。コクソン氏は、AI開発者はこの技術が10年末までに全員を殺す可能性があると考えていると述べた。セービエン氏は、別の人物が後任になれば、研究者は離職してもほとんど成果を上げられない可能性があると述べた。セービエン氏は、十分な数の研究者が全員停止すべきだと合意すれば、研究者は一斉に停止できる可能性があると述べた。