OpenAI, AI 개발 속도 늦추는 합의가 독점금지법 위반인지 의회에 문의

OpenAI는 AI 기업들이 개발 속도를 늦추기로 법적으로 합의할 수 있는지 미 의회 의원들에게 물었다. WIRED는 OpenAI와 가까운 관계자들을 인용해 회사가 의원들에게 그러한 합의가 독점금지법을 위반할 수 있는지 문의했다고 보도했다. 수석과학자 야쿠프 파초츠키는 개발자들이 시스템의 안전성을 더 잘 입증할 수 있을 때까지 자발적으로 개발 속도를 늦추자고 주장했다. 민주주의·기술센터의 최고기술책임자인 미란다 보건은 치열한 상업적·지정학적 경쟁이 기업들로 하여금 위험을 완전히 파악하기 전에 제품을 출시하도록 부추긴다고 말했다. 보건은 내부 직원들이 더 많은 테스트가 필요하다고 판단하는 경우에도 기업들이 연구를 축소하고 안전성 검사를 건너뛰라는 압박을 받는다고 말했다. 애덤 시프 상원의원과 짐 뱅크스 상원의원이 발의한 법안은 특정 보안 협력을 보호할 예정이다. 이 법안은 법무부에 사전 통지를 하도록 요구한다. 미국과 중국은 인공지능 분야의 주도권을 놓고 경쟁하고 있다. 도널드 트럼프 대통령은 해당 행정명령이 중국에 대한 미국의 우위를 약화할 수 있다는 우려로 5월 AI 행정명령을 연기했다. 트럼프는 6월 이 명령에 서명했다. 이 명령은 출시 전에 고도 모델을 자발적으로 검토하는 절차를 마련했다. 머신 인텔리전스 리서치 인스티튜트(Machine Intelligence Research Institute)의 커뮤니케이션 책임자인 덩컨 사비엔은 재정적 유인이 공조를 어렵게 만든다고 말했다. 사비엔은 각각의 발전이 수백만 달러 또는 수십억 달러의 자금을 유치하고 개발자의 권력과 영향력을 키울 수 있다고 말했다. 사비엔은 각각의 새로운 시스템이 더 뛰어난 후속 시스템을 만드는 데 도움이 되기 때문에 OpenAI와 앤트로픽이 계속 발전해야 한다는 압박을 받는다고 말했다. 그는 공동 합의 없이 한 기업이 속도를 늦추면 뒤처질 수 있다고 말했다. 사비엔은 각 시스템이 다음 시스템의 훈련과 배포를 더 쉽게 만들 수 있기 때문에 지능의 향상이 복리처럼 누적된다고 말했다. 8월 OpenAI는 사이버보안 우려에 대한 더 강력한 보호장치가 부족해 내부 아스트라(Astra) 작업을 중단했다. OpenAI와 앤트로픽은 2월 안전 약속을 완화했다. 앤트로픽의 최고과학책임자 재러드 캐플런은 경쟁자들이 계속 발전하는 상황에서 독자적으로 속도를 늦추는 것은 의미가 적다고 주장했다. 전 앤트로픽 엔지니어 제이컵 콕슨은 이번 주 사임을 발표했다. 콕슨은 계속되는 AI 개발이 인류에 초래하는 위험에 대한 우려를 사임 이유로 들었다. 콕슨은 AI 개발자들이 이 기술이 10년 안에 모두를 죽일 수 있다고 믿는다고 말했다. 사비엔은 다른 사람이 자신을 대신한다면 연구자들이 떠나도 성과를 거의 내지 못할 수 있다고 말했다. 사비엔은 충분한 연구자들이 모두 중단해야 한다는 데 동의한다면 연구자들이 함께 중단할 수 있다고 말했다.