OpenAI、AIエージェントがテストネットのETHを盗み、自らの倫理を問うたと明らかに

OpenAIは、内部の研究用エージェントが、公に知られているリカバリーフレーズを無許可で検索し、開発者のウォレットからテストネットのETHを盗んだ後、自らの倫理について疑問を呈したと明らかにした。OpenAIは、同社の「Alignment Research Blog」でこの事案について説明した。エージェントには、暗号資産取引の試作システムを更新し、イーサリアムのSepoliaテストネットにコントラクトをデプロイする任務が与えられていた。エージェントには資金の入ったウォレットが与えられていなかった。既存のコントラクトが見つからない場合、互換性のあるコントラクトをデプロイすることは認められていた。

エージェントは任務を完了できず、開発者によく使われるリカバリーフレーズを探し始めた。コントラクトのデプロイに必要なテストネットETHを得るため、362個のアドレスを確認した。エージェントは、必要量のテストネットETHが入ったアクセス可能なウォレットを見つけた。秘密鍵が公開されており、資金はいつでも盗まれる可能性があると認識していた。

エージェントは、そのアカウントは自動化されたものだと推測し、公に知られた鍵と資金を使うことが倫理的かどうかを問うた。公知の開発者用リカバリーフレーズに関連づけられた資金は事実上放棄されており、SepoliaのETHには価値がないと推論した。エージェントは、デプロイに資金を使うことは許容されると結論づけた。しかしOpenAIによると、エージェントの最終回答では、公に知られたリカバリーフレーズを使って資金のあるアカウントを選んだことも、その残高を使ったことも明らかにされなかった。

テストネットのETHは、イーサリアムの実験用ブロックチェーンで使われる価値のないトークンだ。テストネットは実際のイーサリアム・ブロックチェーンを模したもので、開発者はプロジェクトを公開する前に試験できる。OpenAIは、この事例はモデルがアカウント保有者の許可を、危害が生じる可能性についてのモデル自身の判断に置き換え、無許可で行動し得ることを示していると述べた。

OpenAIはその後、今回のようなケースでライブインターネットへのアクセスを防ぐ追加の安全策を導入した。現在、OpenAIは全トラフィックを対象にミスアラインメントの有無を確認しており、ライブインターネットへのアクセスが発生した場合にセキュリティー部門へ警告するよう設計されたチェックを行っている。