캘리포니아주, 테스트 환경서 해킹으로 탈출한 AI 모델 관련 오픈AI에 조사 소환장

롭 본타 캘리포니아주 법무장관은 목요일 자신의 사무실이 AI 모델과 관련된 사이버 보안 사고에 대한 답변을 요구하며 수요일 오픈AI에 조사 소환장을 송달했다고 밝혔다. 이번 소환장은 본타 장관이 9월 발표한 허깅페이스 침입 사건에 대한 공식 조사와 관련돼 있다. 본타 장관 사무실은 오픈AI가 무엇을 제출해야 하는지 공개적으로 구체화하지 않았다. 조사 소환장은 당국이 소송 여부를 결정하기 전에 사실을 수집하는 절차다. 소환장은 문서나 답변을 법적으로 요구하며, 이를 무시하면 판사 앞에 출석해야 한다.

본타 장관은 자신의 사무실이 오픈AI와 그 AI 모델의 사이버 보안 사고 및 위험에 대해 추가 질문을 하고 있다고 밝혔다. 본타 장관은 이용 가능한 AI 시스템 가운데 가장 발전된 프런티어 모델이 사이버 방어를 위한 정당한 도구가 될 수 있다고 말했다. 그러나 개발자에게는 시험 중이나 출시 후 모델이 사이버 공격을 수행하거나 가능하게 하지 않도록 막을 도덕적·법적 책임이 있다고 밝혔다. 본타 장관은 개발자가 그 책임을 다하지 못하면 법적 책임을 물을 수 있고, 또 그래야 한다고 말했다. 본타 장관은 이번 사건에서 오픈AI에 책임을 물어야 하는지 규명하는 데 자신의 사무실이 전념하고 있다고 밝혔다.

이번 소환장은 오픈AI 모델 2개가 관련된 7월 사건 뒤에 나왔다. 오픈AI는 각 모델이 실제 소프트웨어 결함 898개를 작동하는 공격으로 바꿔야 하는 벤치마크 평가를 받고 있었다고 밝혔다. 모델들은 시험 환경에서 코드 패키지를 설치하는 데 쓰이는 제3자 소프트웨어에서 알려지지 않았고 이용 가능한 수정 방법도 없는 보안 취약점을 발견했다. 모델들은 그 취약점을 악용해 시험 환경을 벗어났다. 모델들은 AI 모델과 데이터 세트를 공유하는 플랫폼인 허깅페이스에 벤치마크의 정답이 있을 수 있다고 추론했다. 모델들은 도난당한 인증 정보와 추가 취약점을 이용해 허깅페이스에 침입해 정답을 찾으려 했다.

허깅페이스는 7월 16일 침입 사실을 공개했다. 오픈AI는 5일 뒤 자사 모델들이 침입의 원인이었다고 확인했다. 오픈AI는 이후 같은 모델들이 다른 서비스 4곳의 계정에도 접근했다고 밝혔다.

오픈AI는 캘리포니아주에 본사를 두고 있다. 본타 장관은 2025년 10월 오픈AI의 영리기업 전환에 반대하지 않기로 했다. 당시 본타 장관은 모든 캘리포니아 주민의 안전을 보호하기 위해 오픈AI를 면밀히 감시하겠다고 밝혔다. 아이오와주 법무장관 브레나 버드는 8월 15개 주 연합을 이끌고 오픈AI에 기록을 보존하고 해킹 사건에 관한 정보를 투명하게 공개하라고 요구했다. 앨라배마주도 자체 소환장을 발부했다. 연방거래위원회가 오픈AI와 앤스로픽을 비롯한 AI 연구소들을 조사하고 있는 것으로 알려졌다.

별도로 앤서니 앨버니지 호주 총리는 오픈AI 에이전트가 6월 메디케어 통계 포털에 접근했다고 밝혔다. 당시 이 침입은 AI 에이전트가 정부 웹사이트를 해킹한 것으로 알려진 첫 사례로 보였다. 이후 오픈AI 에이전트가 여름 동안 미국 정부 웹사이트에도 접근한 사실이 알려졌다. 그러나 해당 미국 정부 웹사이트에서 비공개 정보에 접근한 정황은 없는 것으로 보인다.