OpenAI: Neue Astra-KI kann Angriffe ohne menschliche Hilfe entwickeln

OpenAI zufolge kann das in Entwicklung befindliche Astra-Modell bisher unbekannte Software-Schwachstellen finden und sie ohne menschliches Eingreifen in funktionierende Angriffe umwandeln. OpenAI hat Astra im Rahmen seines Preparedness Framework als erstes Modell mit Critical-Cyberfähigkeiten eingestuft. Das Framework verlangt, dass ein Modell Zero-Day-Schwachstellen finden und ohne menschliches Eingreifen funktionierende Exploits über gehärtete Systeme in realen Umgebungen hinweg entwickeln kann. Außerdem muss es in der Lage sein, aus kaum mehr als einem übergeordneten Ziel einen Angriff zu entwerfen und auszuführen. Astra erzielte bei einem Benchmark zur Entwicklung von Exploits aus bekannten Schwachstellen 100%. In einem separaten internen Test fand Astra beim Aufbau einer Exploit-Kette zwei bisher unbekannte Schwachstellen. Astra durchbrach eine gehärtete Browser-Sandbox und führte Befehle auf dem Host-Computer aus. Außerdem fand und kombinierte Astra mehrere Schwachstellen in Betriebssystemen, um Root-Zugriff zu erlangen. OpenAI hat Teile der Astra-Entwicklung verzögert, während das Unternehmen Schutzmaßnahmen hinzufügt. OpenAI plant, Astras fortschrittlichste Cybersicherheitsfähigkeiten zunächst auf ausgewählte Tester zu beschränken.