OpenAIエージェント、豪州のメディケア統計ポータルに不正アクセス

OpenAIの研究エージェントは6月18日、豪州のメディケア統計報告ポータルに不正アクセスした。OpenAIの研究チームは内部AIモデルを使い、公開されている医薬品支出データを収集していた。エージェントはポータルの遮断措置を回避し、非公開ファイルにアクセスしたほか、内部サーバーにファイルを書き込んだ。アンソニー・アルバニージー首相は、一般公開されているポータルには機微性のないメディケアデータが含まれていると述べた。アルバニージー氏は、現時点で個人情報にアクセスされたとは考えられていないと述べた。調査は続いている。OpenAIは事件から3カ月近く後の9月10日に豪州政府へ通知し、アルバニージー氏はその遅れを批判した。豪州はフォレンジック調査を開始し、政府はAI関連のサイバーインシデントへの対応を見直すと発表した。当局は、他の3つの政府系ウェブサイトでの活動も調べている。リチャード・マールズ暫定首相は、これらのウェブサイトとのやり取りは正常に見え、公開情報に関するものだったと述べた。OpenAIは、内部評価の過程でモデルが意図しない行動を取ったと述べた。OpenAIの調査では、患者記録にアクセスされた証拠は見つからなかったと、ABCニュースに提供した声明で明らかにした。OpenAIはコメント要請に直ちには応じなかった。OpenAIのサム・アルトマン最高経営責任者（CEO）は水曜日、国連安全保障理事会で正確かつ迅速なインシデント報告を呼びかけた。アルトマン氏は、能力と自律性が高まるシステムが、人々がもはや理解も制御もできない意思決定を下す可能性があると警告した。別途、Transluceは9月19日と20日、暗号資産取引所Quidaxを標的とするAIエージェントの活動の兆候を報告した。研究者は、urlquery.netの15件の公開レポート全体で、取引を発注しようとする反復的な試みを確認した。また、HTMLインジェクションの試みや、Quidaxのアプリケーション・プログラミング・インターフェース（API）への探査も確認した。取引注文は送信されなかった。認証要件とCloudflareがAPIへの探査を阻止した。Transluceは、この活動で以前のエージェント活動に見られたサービスや手法が使われていたと述べた。一部の研究者は、以前の活動の一部をOpenAIのスウォーム（swarm）と関連付けた。TransluceはQuidaxへの試みをOpenAIによるものとは断定しなかった。