OpenAI、新AI「Astra」は人の助けなしに攻撃を構築できると説明

OpenAIによると、開発中のAstraモデルは、これまで知られていなかったソフトウェアの脆弱性を発見し、人間の介入なしにそれを実際に機能する攻撃へと変えることができる。OpenAIは、Preparedness Frameworkにおいて、AstraをCriticalのサイバー能力を持つ初のモデルに分類した。同フレームワークでは、モデルが人間の介入なしに、強固に防御された実環境のシステム全体でゼロデイ脆弱性を発見し、機能するエクスプロイトを開発できることを求めている。また、高水準の目標に近い情報だけから攻撃を考案し、実行できることも求めている。Astraは、既知の脆弱性からエクスプロイトを開発するベンチマークで100%のスコアを記録した。Astraは別の社内テストで、エクスプロイトチェーンの構築中に、これまで知られていなかった2つの脆弱性を発見した。Astraは強固に保護されたブラウザのサンドボックスを脱出し、ホストコンピューター上でコマンドを実行した。Astraは別途、複数のOSの脆弱性を発見して組み合わせ、root権限を取得した。OpenAIは安全策を追加する間、Astraの開発の一部を遅らせている。OpenAIは当初、Astraの最も高度なサイバーセキュリティ機能を選ばれたテスターに限定する計画だ。