Analiz: Buterin, yerel yapay zekânın hız kaybetmeden gizliliği koruyabileceğini söyledi

Vitalik Buterin, 17 Eylül'de Qwen 3.8 Flash ve llama.cpp'deki son geliştirmelerin, yerel modelleri Strix Halo dizüstü bilgisayarında görevlerin büyük bir bölümünü yerine getirmeye yaklaştırdığını söyledi. Kullanıcının tüm kişisel bağlamını paylaşmadan daha güçlü uzak sistemlere yönelik talepleri koordine eden yerel bir modeli anlattı. Paylaşımına eklenen bir kıyaslama görseli, 10 iş yükünde saniyede 109,82 ila 373,22 token arasında giriş işleme hızları ve saniyede 18,42 ila 33,37 token arasında çıktı oluşturma hızları gösterdi. Bu rakamlar, üst düzey bir dizüstü bilgisayar için yanıt verme kapasitesine ilişkin bir iddiayı destekliyor; ancak modelin muhakemesini, kötü amaçlı talimatlara direnç göstermesini veya işlem yetkilendirmesini ortaya koymuyor. Buterin'in nisan ayındaki hesabıyla karşılaştırıldığında, eylül değerlendirmesi dizüstü bilgisayar modellerine transkripsiyon, özetleme ve sınırları sıkı biçimde belirlenmiş diğer görevlerden daha geniş bir rol veriyor. Yeni açıklamada yerel model, daha fazla faaliyetin ana arayüzü olarak hizmet verebiliyor ve uzak bir modele ne zaman ihtiyaç duyulduğuna karar verebiliyor. Uzak hizmet, kullanıcının daha geniş durumundaki her dosya, mesaj ve cüzdan ayrıntısı yerine yalnızca yerel model tarafından seçilen soruyu veya bağlamı alıyor. Nisan ve eylül açıklamalarında farklı model nesilleri ve görevler yer alıyordu; eylül paylaşımında istem içerikleri, niceleme tercihleri ve çalışma zamanının tam yapılandırması açıklanmadı. Makalede Qwen3.8-Flash-Next, Alibaba'nın Qwen ekibi tarafından yayımlanan, açık ağırlıklı, çok modlu bir mixture-of-experts modeli olarak tanımlanıyor. Ana modelinde 125 milyar parametre ve n-gram gömme tablolarında buna ek olarak 51 milyar parametre bulunurken, token başına 6 milyar parametre etkinleştiriliyor. Resmî depo, nicelemeli GGUF derlemeleri kullanılarak llama.cpp üzerinden yerel metin ve görüntü çıkarımını belgeliyor. Her token için modelin yalnızca bir bölümünün etkinleştirilmesi hesaplama yükünü azaltıyor; ancak kullanıcıların seçilen derleme ve bağlam için hâlâ yeterli belleğe ihtiyacı var. Resmî materyaller, niceleme seviyeleri ve iş yükleri genelinde geçerli tek bir asgari donanım gereksinimi sunmuyor. Qwen'in teknik raporu, temel modeli genel bilgi, matematik, bilim, muhakeme, kodlama ve çok dilli anlama alanlarını kapsayan 14 kıyaslama üzerinde değerlendiriyor. Qwen ekibi, Flash-Next'in daha az etkinleştirilen parametre ve daha az eğitim hesaplaması kullanırken sekiz testte daha büyük Qwen3.7-Plus temel modelini geride bıraktığını bildirdi. Bu kıyaslamalar yetenek, verimlilik ve eğitim kararlılığını kapsıyor; istem enjeksiyonuna direnç, politika uygulama, cüzdan yetkilendirmesi veya otonom finansal işlemlerin doğruluğunu kapsamıyor. Bir asistan bir işlemi özel olarak açıklayabilir, calldata hazırlayabilir veya bir rota önerebilirken, imza yetkisine sahip bir kişi varlıkları transfer eden ya da başka bir sözleşmeye bunları taşıma izni veren geri döndürülemez bir talebi onaylayabilir. Bir web sitesinde, mesajda veya işlem açıklamasında gizlenen kötü amaçlı talimatlar modelin planını yine de başka yöne çevirebilir. Ethereum Vakfı'nın ikinci çeyrek tahsis güncellemesinde, hafif istemcisi ve yapay zekâ asistanının cihaz üzerinde çalışması amaçlanan, tamamen yerel bir macOS akıllı hesap cüzdanı olan Steward listelendi. Bu açıklama finansmanı ve projenin kapsamını ortaya koyuyor; ancak üretimde kullanımı, bağımsız denetim durumu veya otonom işlem yetkisini ortaya koymuyor. Buterin'in nisan ayındaki cüzdan yönlendirmesi, riskli işlemler için insan onaylı bir güvenlik duvarı, işlem tutarları, calldata ve işlem sayıları için deterministik sınırlar ve insan ile modelden oluşan 2/2 kuralı yoluyla politikayı dil modelinin dışında tutuyordu. Bakiye okuma, imzasız işlemler hazırlama veya sıkı biçimde sınırlandırılmış limitler altında çalışma gibi düşük riskli otomasyon, yazılım tarafından tanımlanan izinler çerçevesinde kullanılmaya devam edebilirdi. EIP-7906 hâlâ taslak aşamasında ve bir işlemin oluşturduğu nihai durum farklılıklarını inceleyen işlem sonrası assertion çerçeveleri öneriyor. Bir assertion, onaylanmamış bakiyeleri değiştirmek, gizli bir token onayı oluşturmak veya korunan bir hesaba dokunmak gibi belirli bir koşulu ihlal ettiğinde sonucu reddedebilir. Makale, çok az şeyi kontrol eden bir assertion'ın yanlış güven duygusu yaratabileceğini belirtiyor; bu nedenle cüzdan doğrulama mantığı amaçlanan assertion çerçevesini gerektirmeli ve assertion ilgili her durum değişikliğini kapsamalı. Yerel çıkarım ve işlem assertion'ları cüzdan aracısı sorununun farklı bölümlerini ele alıyor. Yerel model bağlamı koruyor ve doğal dildeki amacı önerilen bir eyleme dönüştürüyor, deterministik izinler alıcıları, sözleşmeleri, değeri ve sıklığı kısıtlıyor, assertion'lar nihai durum değişikliklerini inceliyor ve riskli eylemler için insan onayı, kullanıcıyı anlamlı biçimde kontrol sahibi tutan ikinci bir faktör olmayı sürdürüyor. Dizüstü bilgisayardaki sonuç, yerel model katmanının hızlı koordinasyon ve uzak zekânın seçici kullanımı açısından daha inandırıcı olmasını sağlıyor; ancak varlıklar üzerindeki yetki, modelin değiştiremeyeceği kontrollere ve kullanıcıyı fiilen kontrol sahibi tutan bir onay sürecine bağlı kalıyor.