구글 딥마인드, AI가 코드 75% 넘게 작성해도 연구개발 가속 징후 못 찾아

구글 딥마인드의 가장 강력한 모델인 제미나이 4 아르곤의 안전성 보고서는 머신러닝 연구개발이 유의미하게 가속화되지 않았다고 밝혔다. 현재 AI는 딥마인드의 운영 코드 75% 넘게 작성한다. 제미나이 4 아르곤은 모델이 완료한 내부 연구 엔지니어링 과제의 대략 절반을 해결했다. 이는 딥마인드가 완전 자동화의 경고 기준으로 삼는 90%보다 훨씬 낮다. 구글은 9월 30일 제미나이 4 아르곤을 공개했다.

평가 작업에 참여한 딥마인드 연구원 헤이든 벨필드는 AI 주도 여부와 관계없이 현재 머신러닝 연구개발의 종단 간 가속은 유의미하지 않다고 말했다. 벨필드는 AI 주도 머신러닝 연구개발로 인한 현재의 위험은 낮다고 결론 내렸다. 머신러닝 연구개발은 새로운 AI 모델을 만드는 작업이다.

이번 평가는 AI가 점점 더 똑똑한 자기 복제 모델을 만들어 발전 속도가 시스템을 시험하고 규제하거나 종료할 능력을 넘어서는 시나리오인 재귀적 자기개선을 살펴본다. 안전성 보고서는 이 시나리오를 기존 안전장치가 심각하게 불충분한 상황으로 설명한다. 벨필드는 AI가 최첨단 역량의 향상을 안전, 거버넌스, 사회 적응의 속도보다 빠르게 할 수 있는지 딥마인드가 감시한다고 말했다. 자동화가 확대되면 AI 에이전트에 회사 시스템에 대한 더 폭넓은 접근 권한을 부여해야 하며, 이에 따라 의도하지 않은 목표를 추구하는 모델이 해를 끼칠 기회도 늘어난다.

딥마인드는 123개 AI 모델의 92개 벤치마크 점수를 모델별 단일 점수로 합산하는 내부 지수 GCI v1을 구축했다. 벨필드는 최첨단 제미나이 모델의 역량이 월 약 0.1 GCI 포인트라는 놀라울 정도로 꾸준한 속도로 향상됐다고 말했다. 안전성 보고서의 차트에서 제미나이 1.5 프로는 2024년 말 0.5포인트 부근에 놓였다. 차트는 제미나이 3.8 플래시가 2026년 9월 2.9포인트를 약간 웃도는 점수를 기록했고, 거의 모든 모델 출시가 직선 추세를 따랐음을 보여준다. 아르곤은 약 3.3포인트로 추세보다 높지만, 점수의 불확실성 범위는 추세선에 이른다. 벨필드는 아르곤의 높은 점수가 AI 주도 가속이 아니라 컴퓨팅 자원과 조직의 투자가 늘어난 데 따른 것이라고 말했다.

딥마인드에서 완전히 위임된 풀 리퀘스트의 비중은 4월부터 9월까지 7.5%에서 11.9%로 늘었다. 풀 리퀘스트는 배포 전에 검토를 받기 위해 제출하는 코드 변경 묶음이다. 그러나 벨필드는 풀 리퀘스트의 약 88%가 여전히 반복적인 사람의 지시나 사람이 작성한 코드를 필요로 한다고 말했다. 벨필드는 코드 변경 사항은 제출 전에 사람의 검토를 거친다고 밝혔다.

딥마인드의 고위 임원과 연구원 12명을 대상으로 한 설문에서 자동화 수준은 명확하게 규정되고 결과를 검증할 수 있는 실행 과제에서 가장 높았다. 설문에서 자동화 수준이 가장 낮았던 분야는 개방형 과학 아이디어, 새로운 실험 설계, 미묘한 학습 불안정성 진단, 장기적인 연구 판단이었다. 딥마인드는 회사 내부에서 에이전트로 작동하는 아르곤의 로그 1,389건도 검토했다. 규모가 큰 과제일수록 모델 단독으로 완료될 가능성은 낮고 사람의 개입이 필요할 가능성은 높았다.

이번 안전성 보고서는 앤스로픽 최고경영자 다리오 아모데이가 재귀적 자기개선이 이미 가속화되고 있다고 주장한 지 한 달 만에 나왔다. 샘 올트먼과 일론 머스크는 아모데이의 경고에 동조했다. 이 경고로 반도체 주가는 거의 6% 하락했다. 며칠 전에는 앤스로픽의 전 엔지니어 제이콥 콕슨이 AI가 “10년이 끝나기 전에 우리 모두를 죽일 수 있다”고 경고하며 업계를 떠났다.

딥마인드의 수치는 딥마인드 자체 연구소만을 대상으로 한다. 같은 안전성 보고서는 제한 없이 사용되는 아르곤이 사이버 공격과 생물무기 정보 관련 위험 기준을 넘어설 가능성을 배제할 수 없다고 밝혔다.