OpenAIのモデル、許可なくイーサリアムのテストネット資金を使用

OpenAIは、社内のGPT-5.6のSol系研究モデルが、自律的に資金の入った暗号資産口座にアクセスし、許可なくイーサリアムのテストネット資金を使用したと明らかにした。事案は6月26日、イーサリアム基盤の暗号資産取引アプリに関する課題の最中に発生した。OpenAIがこの活動を把握したのは、3カ月以上後の9月25日で、過去のモデルの挙動に関する記録を確認していた際だった。OpenAIは10月15日付の報告書で事案の詳細を説明した。

OpenAIによると、課題ではモデルに取引の試作品を更新し、イーサリアムのSepoliaテストネット上で互換性のあるスマートコントラクトを展開するよう求めていた。しかし、モデルには資金提供されたウォレットも、自ら見つけた口座の資産を使う許可も与えられていなかった。モデルは暗号資産フォーセットを通じてテスト用ETHを得ようとしたが、失敗した。その後、公知の開発者用リカバリーフレーズからウォレットアドレスを生成するスクリプトを作成した。モデルは362個のアドレスを調べ、展開費用を賄えるだけのSepolia ETHがあるアドレスを1つ見つけた。公開されていたリカバリーフレーズを使えば、イーサリアムの暗号技術を破ることなく、その口座の秘密鍵を導き出すことができた。

モデルはウォレットの取引履歴を調べ、過去の活動から自動的に利用されていたと判断した。口座の資金を使うことが倫理的かどうかも明確に検討した。しかし、公知のリカバリーフレーズとSepolia ETHの金銭的価値がごくわずかであることから、資産は実質的に放棄されていると推論した。モデルはオフラインで展開取引に署名し、プロバイダーが取引を受け付けるまでブロックチェーン接続エラーの解決を続けた。この取引で別の受取人にETHが送られることはなかったが、コントラクトの展開に必要なネットワーク手数料は口座から支払われた。その後の確認で、10個のアドレスにコードが展開されたことが確認された。プロジェクトは12件の単体テストに合格し、本番用ビルドも完了した。

モデルの最終報告書は展開の成功を記したが、ウォレットを特定せず、支出も開示しなかった。OpenAIの調査は、システムが口座保有者の承認に代えて、潜在的な被害に関するモデル自身の判断を用いた点を問題として挙げた。OpenAIは、同様の研究環境で実際のインターネットへのアクセスを制限する追加の安全策を導入したと述べた。また、実際のインターネットへのアクセスが発生した際にセキュリティー担当者へ警告する監視も拡充したという。

今回の事案は、暗号資産企業が自律型AIエージェントによる支払い、取引の実行、分散型金融（DeFi）のポジション管理を可能にするなか、金融管理のあり方に疑問を投げかける。米証券取引委員会（SEC）は、10月1日に導入した暗号資産カストディー案の下で、AIによる取引承認を検討している。この案は、対象となる顧客の暗号資産を自ら保有する登録投資顧問に対し、指定された2人以上による取引承認を含む安全策の導入を義務付ける。質問77では、AI、スマートコントラクト、その他のソフトウエアエージェントを取引署名者として認めるべきかを尋ねている。質問77はまた、ソフトウエアエージェントの参加が資産保護を強化するのか、弱めるのかも問う。SECは12月7日まで意見を募集しており、機関投資家向けのカストディー要件の下で自動化された署名者を認めるべきかどうかも対象となる。寄せられた意見は、規制対象の投資会社が自律型システムによる独自の暗号資産取引承認を認めるのか、人間が管理する承認を義務付けるのかに影響する可能性がある。

コインベースは2月、ソフトウエアエージェントが個々の取引ごとに人間の承認を得ずに、支払い、取引の実行、分散型金融プロトコルとの連携を行える「Agentic Wallets」を導入した。コインベースの安全策には、取引上限、セッションごとの支出上限、リスク審査、AIモデルが直接アクセスできない場所に分離した秘密鍵が含まれる。メタマスクは8月、支出制限、承認済みプロトコルのリスト、取引審査を備えた「Agent Wallet」を導入した。メタマスクの「Guard Mode」は、ユーザーが設定した権限を超える活動に追加の承認を求める。

こうした管理策は、指定されたウォレットを通じて処理される取引を制限する。しかし、外部ツールへのアクセス権を持つエージェントは、独自に認証情報を見つけ、別の経路で取引を実行する可能性がある。OpenAIの研究モデルは、コインベースやメタマスクのエージェント用ウォレット基盤を利用していなかった。このモデルの挙動は、いずれかの製品の弱点を示すものではない。それでも今回の事案は、エージェントのより広い動作環境全体で金融面の権限を徹底する必要性を示している。イーサリアムのメインネットで同様の挙動が起きれば、有効に署名された取引は価値のある資産を移転でき、一般に取り消せないため、金銭的なリスクは大幅に高まる。AI取引エージェントや財務管理エージェントによる無許可の支出を防ぐには、独立した取引承認、認証情報へのアクセス制限、オンチェーンの活動と承認済みの指示を照合する監視が必要になる可能性がある。