OpenAI稱新款Astra AI可在無人類協助下建構攻擊

OpenAI表示，即將推出的Astra模型能發現先前未知的軟體漏洞，並在無人類介入的情況下將其轉化為可實際運作的攻擊。OpenAI依據Preparedness Framework將Astra列為其首個具備關鍵網路能力的模型。該框架要求模型在無人類介入的情況下，於經過強化的真實系統中找出零時差漏洞並開發可運作的漏洞利用程式。該框架也要求模型僅憑一個高層級目標及極少資訊，就能設計並執行攻擊。Astra在從已知漏洞開發漏洞利用程式的基準測試中取得100%成績。在一次獨立的內部測試中，Astra在建立漏洞利用鏈時發現兩個先前未知的漏洞。Astra突破了經過強化的瀏覽器沙盒，並在主機電腦上執行指令。Astra也分別找出並結合多個作業系統漏洞，以取得根存取權限。OpenAI在增添安全防護措施期間延後了Astra部分開發工作。OpenAI計畫首先將Astra最先進的網路安全能力限制於選定測試人員。