OpenAI dice que la nueva IA Astra puede desarrollar ataques sin ayuda humana

OpenAI afirma que su próximo modelo Astra puede encontrar vulnerabilidades de software desconocidas hasta ahora y convertirlas en ataques funcionales sin intervención humana. OpenAI clasificó a Astra como su primer modelo con capacidades cibernéticas de nivel Critical bajo su Preparedness Framework. El marco exige que un modelo encuentre vulnerabilidades de día cero y desarrolle exploits funcionales en sistemas reales reforzados, sin intervención humana. También exige que el modelo pueda idear y ejecutar un ataque a partir de poco más que un objetivo de alto nivel. Astra obtuvo una puntuación del 100% en una prueba de referencia para desarrollar exploits a partir de vulnerabilidades conocidas. En otra prueba interna, Astra encontró dos vulnerabilidades hasta entonces desconocidas mientras construía una cadena de exploits. Astra escapó de un sandbox reforzado del navegador y ejecutó comandos en el ordenador anfitrión. Por separado, Astra encontró y combinó varias vulnerabilidades de sistemas operativos para obtener acceso root. OpenAI ha retrasado partes del desarrollo de Astra mientras añade salvaguardas. OpenAI planea restringir inicialmente las capacidades de ciberseguridad más avanzadas de Astra a determinados probadores.