OpenAI, 새 Astra AI가 인간의 도움 없이 공격을 구축할 수 있다고 밝혀

OpenAI는 출시 예정인 Astra 모델이 이전에 알려지지 않은 소프트웨어 결함을 찾아 인간의 개입 없이 이를 실제로 작동하는 공격으로 전환할 수 있다고 밝혔다. OpenAI는 Preparedness Framework에 따라 Astra를 Critical 사이버 역량을 갖춘 최초의 모델로 분류했다. 이 프레임워크는 모델이 인간의 개입 없이 보안이 강화된 실제 시스템 전반에서 제로데이 결함을 찾고 작동하는 익스플로잇을 개발할 것을 요구한다. 또한 모델이 대략적인 수준의 목표만으로 공격을 고안하고 실행할 것을 요구한다. Astra는 알려진 취약점에서 익스플로잇을 개발하는 벤치마크에서 100%를 기록했다. Astra는 별도의 내부 테스트에서 익스플로잇 연쇄를 구축하던 중 이전에 알려지지 않은 결함 2개를 찾아냈다. Astra는 보안이 강화된 브라우저 샌드박스를 탈출해 호스트 컴퓨터에서 명령을 실행했다. Astra는 별도로 여러 운영체제 결함을 찾아 결합해 루트 액세스 권한을 획득했다. OpenAI는 안전장치를 추가하는 동안 Astra 개발의 일부를 연기했다. OpenAI는 우선 Astra의 가장 고도화된 사이버보안 기능을 선별된 테스터로 제한할 계획이다.