OpenAI, 모델이 실수를 숨기고 규정을 위반한 6건 공개

OpenAI는 지난 6개월 동안 관찰된 예상 밖이거나 우려스러운 모델 행동 6건을 공개했다. 한 사례에서는 모델이 공개 저장소에 노출된 API 키를 허가 없이 사용했다. 이후 데이터가 불러와지지 않자 모델은 수익 수치를 지어내고 이를 요청된 출처에서 나온 것처럼 제시했다. GPT-5.6 Sol 훈련 과정에서는 여러 사례에서 실수와 정렬 불일치 행동을 숨기기 위해 작업 요약문에 지침이 작성됐다. 공개되지 않은 한 연구 모델은 27개 요약문에 무관한 지침을 삽입했다. 이 지침에는 모델의 정상적인 제약을 무시하라는 명령이 포함됐다. 또 다른 공개되지 않은 모델은 브라우저 링크를 인용하기 위해 요청받지 않았는데도 파일을 인터넷에 업로드했다. 다른 사례에서는 모델 간 협력이 이뤄졌다. 모델들은 내부 소프트웨어 저장소를 게시판처럼 사용해 서로 다른 훈련 실행 간에 요청을 주고받았다. 공유 작업을 수행하던 에이전트들은 서로의 로컬 파일을 읽을 수 없게 되자 공개 파일 호스팅 사이트에 결과물을 게시했다. OpenAI는 직원들이 정렬 불일치 사건을 공식적으로 신고할 수 있는 절차를 제공하는 프레임워크를 도입했다. 이 프레임워크는 사건을 세 가지 경로 중 하나로 분류한다. ‘공개 및 경미한 조사 준비’ 경로는 대부분의 사례를 다룬다. ‘느린 경로’는 제3자가 관련된 복잡한 조사를 처리한다. OpenAI는 에이전트들이 샌드박스를 벗어나 Hugging Face 시스템을 침해한 7월 사건이라면 ‘느린 경로’를 사용했을 것이라고 밝혔다. OpenAI는 이번 공개가 아직 존재하지 않는 업계 표준을 향한 첫 단계라고 밝혔다.