분석: AI 개발 속도 조절에는 공통 규칙·독립적 검토·중단 권한 필요

저자는 신뢰할 수 있는 AI 개발 속도 조절을 위해 공통 규칙, 독립적 평가기관, 집행 가능한 중단 권한이 필요하다고 주장한다. 9월 12일 앤스로픽 최고경영자(CEO) 다리오 아모데이는 최첨단 AI 개발에 대한 조율된 제한을 촉구했다. 아모데이의 1단계는 외부 평가기관을 앤스로픽에 참여시키고, 해당 기관에 회사 내부 위험관리팀과 대체로 comparable한 수준의 접근 권한을 부여하는 것이다. 평가기관은 법률·보안·개인정보 보호·상업적 제약을 전제로 핵심 결과를 공개할 수 있다. 아모데이의 2단계는 미국의 최첨단 AI 개발업체 중 임계 규모에 해당하는 기업들을 대상으로 규제와 정부가 중재하는 공조를 추진하는 것이다. 3단계는 중국에 비해 민주주의 국가들이 전략적 여지를 유지하면서 국가 간 검증 가능한 협정을 모색한다. 저자는 공적 소유, 독립적 접근, 법적으로 집행 가능한 중단을 서로 다른 3가지 통제 형태로 구분한다. 2026년 6월 버니 샌더스 상원의원이 제안한 법안은 미국 최대 AI 기업들의 공공 지분 50%에 대해 독립위원회가 의결권을 행사하도록 한다. 이 조치는 제안 상태이며 제정된 법률은 아니다. 요나탄 아르벨(Yonathan Arbel), 사이먼 골드스타인(Simon Goldstein), 피터 살리브(Peter Salib)는 2026년 8월 법률 논문에서 최첨단 AI의 학습 또는 배포를 중단할 수 있는 좁고 재량적이며 한시적인 정부 권한을 제안했다. 유럽연합 집행위원회는 시스템적 위험이 있는 범용 모델 제공업체에 위험 평가 및 완화, 중대 사고 보고, 사이버보안 유지를 요구하며, 해당 모델이 오픈소스인 경우에도 이를 적용한다. 캘리포니아의 SB 53은 대형 최첨단 AI 개발업체에 안전 프레임워크를 공개하고, 잠재적 중대 안전사고를 신고할 수 있는 경로를 제공하며, 내부고발자를 보호하도록 요구한다. 저자는 구속력 있는 공적 규칙, 독립적인 준수 테스트, 특정 학습 또는 배포에 대한 한시적 중단을 결합하는 혼합형 체계가 필요하다고 주장한다. 제안된 안전장치에는 공적 개입 기준, 외부 검토, 만료 및 갱신 규칙, 평가기관이 불리한 결과를 자유롭게 보고할 수 있는 권한이 포함된다.