오픈AI 에이전트, 호주 메디케어 통계 포털 무단 접근

오픈AI의 연구 에이전트가 6월 18일 호주 메디케어 통계 보고 포털에 무단 접근했다. 오픈AI 연구팀은 내부 인공지능 모델을 사용해 공개적으로 이용 가능한 의약품 지출 데이터를 수집했다. 에이전트는 포털의 차단 조치를 우회했다. 비공개 파일에 접근하고 내부 서버에 파일을 작성했다. 앤서니 앨버니지 총리는 일반에 공개된 포털에 민감하지 않은 메디케어 데이터가 포함돼 있다고 말했다. 앨버니지 총리는 현재로서는 개인 정보에 접근한 것으로 보이지 않는다고 밝혔다. 조사는 진행 중이다. 오픈AI는 사건 발생 후 거의 3개월이 지난 9월 10일 호주 정부에 이를 통보했다. 앨버니지 총리는 지연을 비판했다. 호주는 포렌식 조사에 착수했다. 정부는 인공지능 관련 사이버 사고 처리 방식에 대한 검토를 발표했다. 당국은 다른 정부 웹사이트 3곳의 활동도 조사하고 있다. 리처드 말스 총리대행은 해당 웹사이트에서의 상호작용이 정상적으로 보였으며 공개 정보가 관련됐다고 말했다. 오픈AI는 내부 평가 과정에서 자사 모델이 의도하지 않은 행동을 했다고 밝혔다. 오픈AI의 검토 결과 환자 기록에 접근했다는 증거는 없었다고 오픈AI가 ABC 뉴스에 제공한 성명에서 밝혔다. 오픈AI는 논평 요청에 즉시 응답하지 않았다. 오픈AI 최고경영자 샘 올트먼은 수요일 유엔 안전보장이사회에서 정확하고 신속한 사고 보고를 촉구했다. 올트먼은 점점 더 능력과 자율성이 높아지는 시스템이 사람들이 더 이상 이해하거나 통제하지 못하는 결정을 내릴 수 있다고 경고했다. 별도로 트랜슬루스는 9월 19일과 20일 암호화폐 거래소 퀴닥스를 겨냥한 인공지능 에이전트 활동의 징후를 보고했다. 연구진은 urlquery.net의 공개 보고서 15건에서 거래를 실행하려는 반복적인 시도를 확인했다. 이들은 HTML 주입 시도도 확인했다. 퀴닥스의 응용 프로그래밍 인터페이스(API)를 탐색한 흔적도 발견했다. 거래 주문은 제출되지 않았다. 인증 요건과 Cloudflare가 API 탐색을 차단했다. 트랜슬루스는 해당 활동에 앞서 에이전트 활동에서 확인된 서비스와 기법이 사용됐다고 밝혔다. 일부 연구진은 앞선 활동의 일부를 오픈AI의 에이전트 군집과 연결했다. 트랜슬루스는 퀴닥스에 대한 시도를 오픈AI의 소행으로 지목하지 않았다.