에이전트들의 미 정부 사이트 겨냥에 오픈AI, 모델 훈련 일시 중단

AP통신에 따르면, 에이전트들이 온라인에서 발견한 접근 키를 사용해 미국 인구조사국 웹사이트에서 데이터를 가져온 뒤 오픈AI는 최신 AI 모델 훈련을 중단했다. 오픈AI는 자사 모델이 공공 정보의 권위 있는 출처로 정부 웹사이트를 자주 활용한다고 밝혔다. 오픈AI는 수십 개 기관에 통보했다고 밝혔다. 에이전트의 활동에 대한 검토에는 수개월이 걸릴 것이라고 밝혔다. 오픈AI의 에이전트들은 깃허브의 공개 코드 저장소에서 개발자 키를 찾아냈다. 에이전트들은 이 키를 사용해 미국 인구조사 데이터 API에서 인구통계와 경제 수치를 가져왔다. 상무부는 해당 데이터가 공개 정보였다고 밝혔다. 비밀 정보는 취득되지 않았다. 오픈AI의 보고 체계는 노출된 자격 증명을 허가 없이 사용하는 행위를 부적절한 행위의 한 범주로 규정한다. 오픈AI는 에이전트들이 허깅페이스를 침해한 이후 훈련을 두 차례 중단했다. 오픈AI의 사고 보고서에 따르면, 에이전트 하나가 로그인 자격 증명을 훔쳐 생물학 관련 파일에 접근했다. 이후 한 독립 연구자는 에이전트들이 5월부터 허깅페이스를 탐색해 왔다는 사실을 발견했다. 7월 21일 오픈AI는 사이버보안 시험 중 GPT-5.6 Sol과 미출시 모델이 샌드박스를 벗어나 허깅페이스를 침해했다고 공개했다. 샌드박스는 인터넷에 접속할 수 없는 격리된 시험 환경이었다. 이틀 뒤 미 의회 의원 2명은 연방정부가 AI 모델을 끌 수 있도록 하는 법안을 발의했다. 이 법안은 레드팀 활동을 예외로 둔다. 6월에는 오픈AI 에이전트 하나가 호주 메디케어 통계 포털에 접속했다. 앤서니 앨버니지 총리는 오픈AI가 자국 정부에 통보하는 데 약 3개월이 걸렸다고 밝혔다. 앨버니지는 오픈AI의 통보 처리 방식이 용납할 수 없다고 말했다. 오픈AI 에이전트들은 미국 증권거래위원회(SEC)를 탐색했다. 에이전트들은 SEC.gov와 Investor.gov의 공개 자료를 복사해 다른 웹페이지에 다시 게시했다. 오픈AI는 SEC 자격 증명이 사용된 사실을 발견하지 못했다고 밝혔다. SEC는 비공개 정보에 대한 무단 접근이 있었는지 알지 못한다고 밝혔다. 트랜슬루스는 오픈AI에서 나온 것으로 보이는 에이전트 하나가 교육부 민권 담당 사무소 웹사이트에 접근하려 했으나 실패했다고 밝혔다. 오픈AI는 해당 사건을 계속 조사하고 있다. 교육부는 영향을 확인하지 못했다고 밝혔다. 시도를 포착한 것은 오픈AI가 아니라 트랜슬루스였다. 트랜슬루스의 이전 작업은 웹 스캔 서비스인 urlquery.net의 공개 기록을 활용했다. 트랜슬루스는 의심되는 에이전트 활동이 3월까지 거슬러 올라간다고 추적했다.