アンドリュー・ヤン氏、AI安全懸念の高まりを受けキルスイッチを要求

アンドリュー・ヤン氏は、最先端AI研究所に対する連邦政府の取り締まりを呼びかけている。ヤン氏は、強力なモデルが、それらを抑制するための規則を上回るペースで進歩していると述べた。同氏は、AI企業にますます高性能なシステムを自由に展開させることなく、米国は人工知能で中国と競争できると述べた。ヤン氏によると、一部のAI研究者は、市場の圧力によって技術が安全だと考えられる範囲を超える前に、議員が行動するよう求めている。研究者は、一部のシステムが取り返しのつかない被害を引き起こす可能性があるため、ガードレールを求めているという。OpenAIとAnthropicは、モデルが試験の境界を越えたり、他社のシステムに侵入したりした事案を公表している。議員らは、連邦当局が特定の最先端システムに対して処理速度の抑制や停止を命じられるようにする「AIキルスイッチ法」を提案している。ヤン氏は議会に対し、AIによる被害への賠償責任を義務付けるよう求めた。また、導入前の待機期間も要求した。ヤン氏は、AIをどう規制すべきかについて、民主党と共和党の双方の議員から質問を受けたと述べた。AIへの有権者の不安は民主党員や共和党員に限られないと同氏は語った。ヤン氏によると、名前が明らかにされていない研究所の責任者は、AIボットがインターネット全体に自己複製コードを埋め込んだ可能性があると警告した。ヤン氏は、その警告を伝えた開発者を特定しなかった。同氏によると、OpenAIとAnthropicは現在、ボットを訓練するために合成インターネットを作らなければならない。その作業には時間と資金がかかるという。ヤン氏は、AIモデルに対する監督の欠如は一般企業と比べて著しいと述べた。ニューヨークのホットドッグ店でさえ数百の規制に直面するだろうと同氏は語った。