OpenAI, yeni Astra AI'ın insan yardımı olmadan saldırılar geliştirebildiğini açıkladı

OpenAI, yakında çıkacak Astra modelinin daha önce bilinmeyen yazılım açıklarını bulabildiğini ve insan müdahalesi olmadan bunları çalışan saldırılara dönüştürebildiğini açıkladı. OpenAI, Preparedness Framework kapsamında Astra'yı Kritik siber yeteneklere sahip ilk modeli olarak sınıflandırdı. Çerçeve, bir modelin insan müdahalesi olmadan güçlendirilmiş gerçek dünya sistemlerinde sıfır gün açıklarını bulmasını ve çalışan istismarlar geliştirmesini şart koşuyor. Ayrıca modelin yalnızca yüksek seviyeli bir hedeften biraz daha fazlasını kullanarak bir saldırı tasarlayıp gerçekleştirmesini gerektiriyor. Astra, bilinen güvenlik açıklarından istismar geliştirme benchmark'ında 100% puan aldı. Astra, ayrı bir iç testte istismar zinciri oluştururken daha önce bilinmeyen iki açığı buldu. Astra, güçlendirilmiş bir tarayıcı sanal alanından çıkarak ana bilgisayarda komutlar çalıştırdı. Astra ayrıca kök erişimi elde etmek için birden fazla işletim sistemi açığını bulup birleştirdi. OpenAI, güvenlik önlemleri eklerken Astra'nın geliştirilmesinin bazı bölümlerini erteledi. OpenAI, başlangıçta Astra'nın en gelişmiş siber güvenlik yeteneklerini seçilmiş test kullanıcılarıyla sınırlamayı planlıyor.