소송, 명확한 동의 없이 사람이 ChatGPT 대화 읽었다고 주장

집단소송을 제기하려는 원고들이 OpenAI가 사용자에게 사전에 명확히 알리지 않고 실제 ChatGPT 대화를 외부 계약업체에 보냈다고 주장했다. 소송은 이번 달 미국 캘리포니아 북부 연방지방법원에 제기됐다. 9월 2일 OpenAI에 소장이 송달됐다. OpenAI의 답변 기한은 10월 13일이다. 소장은 프로젝트 릴리(Project Lily)라는 OpenAI 계획을 겨냥하고 있다. 404 Media는 9월 14일 프로젝트 릴리를 처음 폭로했다. 제3자 인력공급업체를 통해 고용된 계약업체 직원들이 실제 ChatGPT 프롬프트와 전체 대화를 읽었다고 주장된다. 계약업체 직원들은 사용자가 무엇을 하려 했는지 요약한다. 이들은 1점에서 7점까지의 척도로 모델의 응답 4개를 평가하고 비판한다. 소장은 OpenAI의 자동화 필터가 개인정보가 계약업체 직원들에게 전달되는 것을 항상 막지는 못한다고 주장한다. 404 Media는 검토자들이 사용자의 과거 대화 요약이 표시되는 대시보드를 사용한다는 사실을 확인했다. 이 요약을 통해 사용자의 대략적인 위치, 직업 또는 사생활이 드러날 수 있다. 대시보드에서는 사용자 이름이 삭제된다. OpenAI는 이번 검토의 목적이 지나치게 인간처럼 보이는 챗봇의 행동을 줄이는 것이라고 밝혔다. OpenAI는 또 연구자들이 아첨성이라고 부르는 과도한 동조를 줄이는 것이 검토의 목적이라고 밝혔다. ChatGPT의 주간 사용자는 9억 명이 넘는다. 원고들은 OpenAI의 개인정보 보호정책이 사용자 데이터에 접근할 수 있는 외부 당사자 가운데 데이터 주석 업체나 인간 평가 업체를 구체적으로 명시하지 않는다고 주장한다. 소장은 8가지 법적 청구를 제기한다. 여기에는 캘리포니아의 불공정경쟁법과 소비자 개인정보 보호법 위반 혐의가 포함된다. 원고들은 관습법상 사생활 은닉 침해 청구도 제기한다. 원고들은 손해배상, 원상회복 및 징벌적 손해배상을 요구한다. 이들은 OpenAI가 대화를 외부 검토자에게 보내기 전에 옵트인 동의를 받도록 하기를 원한다. 또 ‘모두를 위해 모델 개선’ 설정을 기본적으로 꺼두기를 요구한다. 채팅 창 안에 명확한 경고를 표시하기를 원한다. 원고들은 검토된 대화와 관련된 작업 결과물의 삭제와 이를 사용한 모델의 재훈련도 추가로 요구할 수 있다.