분석: 부테린, 속도 저하 없이 프라이버시를 보호할 수 있는 로컬 AI에 근접했다고 말해

비탈릭 부테린은 9월 17일 Qwen 3.8 Flash와 llama.cpp의 최근 개선으로 자신의 Strix Halo 노트북에서 로컬 모델이 많은 작업을 처리하는 데 가까워졌다고 말했다. 그는 로컬 모델이 사용자의 전체 개인적 맥락은 제공하지 않은 채 더 강력한 원격 시스템에 대한 요청을 조율할 수 있다고 설명했다. 그의 게시물에 첨부된 벤치마크 이미지에는 10개 작업이 제시됐으며, 보고된 입력 처리 속도는 초당 109.82373.22토큰, 출력 생성 속도는 초당 18.4233.37토큰이었다. 이 수치는 고성능 노트북 한 대에서의 응답성을 뒷받침하지만, 모델의 판단력, 악성 지시에 대한 저항성 또는 거래 승인 능력을 입증하지는 않는다. 4월의 설명과 비교하면 부테린의 9월 평가는 노트북 모델에 전사, 요약 및 기타 엄격히 제한된 작업보다 더 광범위한 역할을 부여한다. 새로운 설명에서 로컬 모델은 더 많은 활동의 주요 인터페이스로 기능하고 원격 모델이 필요한 시점을 결정할 수 있다. 원격 서비스에는 사용자의 더 넓은 상황에 포함된 모든 파일, 메시지 및 지갑 세부 정보가 아니라 로컬 모델이 선택한 질문이나 맥락만 전달된다. 4월과 9월의 설명은 서로 다른 모델 세대와 작업을 다뤘으며, 9월 게시물에는 프롬프트 내용, 양자화 방식 및 전체 실행 구성이 빠져 있다. 이 기사는 Qwen3.8-Flash-Next를 알리바바의 Qwen 팀이 출시한 오픈 웨이트 멀티모달 혼합 전문가 모델로 규정한다. 이 모델의 주 모델에는 1,250억 개의 파라미터가 있고, n-그램 임베딩 테이블에 510억 개가 추가로 포함되며, 토큰당 60억 개의 파라미터가 활성화된다. 공식 저장소는 양자화된 GGUF 빌드를 사용해 llama.cpp를 통한 로컬 텍스트 및 비전 추론을 문서화하고 있다. 각 토큰에 대해 모델의 일부만 활성화하면 연산 부담이 줄어들지만, 사용자는 선택한 빌드와 맥락을 저장할 수 있을 만큼 충분한 메모리를 여전히 확보해야 한다. 공식 자료는 양자화 수준과 작업 전반에 적용되는 단일 하드웨어 최소 사양을 제시하지 않는다. Qwen의 기술 보고서는 일반 지식, 수학, 과학, 추론, 코딩 및 다국어 이해를 다루는 14개 벤치마크에서 기본 모델을 평가한다. Qwen 팀은 Flash-Next가 활성화된 파라미터 수와 훈련 연산량은 더 적게 사용하면서 8개 테스트에서 더 큰 Qwen3.7-Plus 기본 모델을 앞섰다고 보고했다. 이 벤치마크는 능력, 효율성 및 훈련 안정성을 다루지만, 프롬프트 주입 저항성, 정책 집행, 지갑 승인 또는 자율적 금융 행동의 정확성을 다루지는 않는다. 비서는 거래를 비공개로 설명하거나, 콜데이터를 준비하거나, 경로를 제안할 수 있지만, 서명자는 자산을 이전하거나 다른 컨트랙트에 자산 이동 권한을 부여하는 되돌릴 수 없는 요청을 실행할 수 있다. 웹사이트, 메시지 또는 거래 설명에 숨겨진 악성 지시는 여전히 모델의 계획을 다른 방향으로 유도할 수 있다. 이더리움 재단의 2분기 배분 업데이트에는 라이트 클라이언트와 AI 비서가 기기에서 실행되도록 설계된 완전 로컬 macOS 스마트 계정 지갑인 Steward가 기재됐다. 이 공개 자료는 자금 지원과 프로젝트 범위를 확인하지만, 제품 배포, 독립 감사 상태 또는 자율적 거래 권한을 확인하지는 않는다. 부테린의 4월 지갑 지침은 위험한 행동에 대한 인간 확인 방화벽, 거래 금액·콜데이터·거래 횟수에 대한 결정론적 한도, 인간과 모델이 함께 참여하는 2-of-2 규칙을 통해 언어 모델 외부에 정책을 배치했다. 잔액 조회, 서명되지 않은 거래 준비 또는 엄격하게 제한된 한도 내 운영처럼 소프트웨어가 정의한 권한 안에서는 저위험 자동화를 계속 사용할 수 있다. EIP-7906은 아직 초안이며 거래로 발생한 최종 상태 차이를 검사하는 거래 후 assertion 프레임을 제안한다. assertion은 승인되지 않은 잔액을 변경하거나, 숨겨진 토큰 승인을 생성하거나, 보호된 계정에 접근하는 등 특정 조건을 위반한 결과를 거부할 수 있다. 이 기사는 너무 적은 내용을 검사하는 assertion이 잘못된 확신을 만들 수 있다고 지적한다. 따라서 지갑 검증 로직은 의도한 assertion 프레임을 요구해야 하며, assertion은 관련된 모든 상태 변경을 포괄해야 한다. 로컬 추론과 거래 assertion은 지갑 에이전트 문제의 서로 다른 부분을 다룬다. 로컬 모델은 맥락을 보호하고 자연어 의도를 제안된 행동으로 바꾸며, 결정론적 권한은 수신자·컨트랙트·가치·빈도를 제한하고, assertion은 최종 상태 변경을 검사하며, 인간 확인은 위험한 행동에 대한 2차 요소로 남아 사용자가 실질적인 통제권을 유지하도록 한다. 이번 노트북 결과는 신속한 조율과 원격 지능의 선택적 사용을 위한 로컬 모델 계층의 신뢰성을 높이지만, 자산에 대한 권한은 모델이 변경할 수 없는 통제 장치와 사용자가 실질적으로 통제권을 유지하는 승인 절차에 여전히 남아 있다.