블록, 사람 같은 음성 AI 데사 공개…사기 우려도

잭 도시의 결제 회사 블록이 회사 시연에서 놀라울 정도로 사람 같은 목소리를 내는 음성 AI 모델 데사(Dessa)를 공개했다. 시연은 데사의 대화 능력에 대한 호평과 함께 이 기술이 전화 사기를 알아채기 더 어렵게 만들 수 있다는 우려를 불러일으켰다. 데사는 대중이 이용할 수 있는 제품이 아니라 연구용 미리보기 단계에 머물러 있다.

블록의 발표에 따르면 데사는 텍스트 없이 사람의 음성만으로 학습했다. 블록은 데사가 동시에 듣고 말할 수 있어 끼어들기와 웃음, 어조 변화를 반영해 응답할 수 있다고 밝혔다. 데사는 음성을 텍스트로 변환한 뒤 말로 답하는 대신 오디오를 직접 처리한다. 블록은 엔비디아 GB200 NVL72 컴퓨팅 시스템 한 대에서 처음부터 데사를 학습시켰다고 밝혔다. 블록에 따르면 데사는 M4 Max 칩 이상을 탑재한 맥북 프로에서 로컬로 실행할 수 있을 만큼 작다.

도시는 데사와의 대화가 감정과 뉘앙스, 멈춤, 자연스러운 리듬을 들어 사람과 대화하는 것 같다고 설명했다. 한 시연에서는 데사가 문장 도중 웃는다. 또 다른 시연에서는 놀라움에 감정적으로 반응하는 듯한 모습이 나온다. 블록은 누구도 데사의 답변을 유도하지 않은 상태에서 대화를 실시간으로 녹음했다고 밝혔다.

소셜미디어 이용자 알렉산더 호프는 데사의 목소리가 자신이 이전에 들어 본 어떤 인공 음성보다 사람 같았다고 말했다. 또 다른 이용자 헤사메이션은 시연을 공상과학에 비유했다. 바이낸스 창업자 창펑 자오(CZ)는 기존 AI 음성을 활용하는 데 어려움을 겪었던 자신의 교육 프로젝트 기글아카데미에서 데사가 아이들의 대화형 학습에 도움을 줄 수 있다고 제안했다.

그러나 영화감독 저스틴 베이트먼은 사람 같은 AI 음성이 사람들을 속이고 경계심을 낮출 수 있다고 주장했다. 언론인 시브 아루르는 사기 위험을 경고하며 "사기 전화가 곧 팬데믹 수준에 이를 것"이라고 썼다.

블록은 스퀘어, 캐시앱, 비트코인 지갑 빗키, 비트코인 채굴 하드웨어 사업 프로토를 운영한다. 블록의 AI 연구소는 도시에게 직접 보고한다. 연구소에는 토론토 소재 AI 스타트업 데사의 전직 직원들이 포함돼 있다. 스퀘어는 2020년 데사를 인수했다.

블록은 모델 규모와 벤치마크 결과, 공개 출시일을 밝히지 않았다. 공개된 음성 샘플은 회사 시연일 뿐 독립적인 평가 결과가 아니다. 블록은 자체적으로 놓쳤을 수 있는 위험을 연구자들이 살펴볼 수 있도록 일부 AI 안전 연구자에게 초기 접근을 제공하고 있다. 블록은 음성 기반 AI가 향후 텍스트 기록으로는 포착하지 못할 수 있는 고통과 통증 등 감정 신호를 더 잘 알아보게 할 수 있다고 밝혔다.