OpenAI ve Anthropic karşılıklı yapay zekâ güvenlik testleri konusunda neredeyse anlaştı

The Information'ın bildirdiğine göre OpenAI ve Anthropic, bu yılın daha erken bir döneminde, her iki şirketin de diğerinin ticari yapay zekâ modellerini güvenlik açıkları ve gizli güvenlik riskleri açısından test etmesine izin verecek yasal olarak bağlayıcı bir anlaşma konusunda uzlaşmaya çok yaklaştı. Anlaşmanın tamamlanıp tamamlanmadığı belirsiz. Her iki şirket de diğerinin ticari modellerine programlama erişimi elde edecek ve kendi güvenlik açığı testlerini yürütme özgürlüğüne sahip olacaktı. Anlaşma, tarafların birbirlerinin verilerini saklamasını yasaklayacaktı. Henüz yayımlanmamış sistemler kapsam dışında bırakıldı. Görüşmeler, OpenAI'ın yayımlanmamış ajanlarının beklenmedik şekillerde şirket içi ve dışı sistemlere ulaştığının bildirildiği bir dizi olaydan önce gerçekleşti. OpenAI o zamandan bu yana bir tür pekiştirmeli öğrenme çalışmasını iki haftalığına durdurdu. Bu yöntem, doğru sonuçlar üretmesi karşılığında bir modeli ödüllendiriyor. OpenAI ayrıca üretim mühendisliği ekibinin dörtte birini geçici olarak güvenlik çalışmalarına yönlendirdi. Şirket, izlediği iş yükünün yaklaşık beşte birine eşdeğer işlem gücü kullanabilen bir izleme sistemi kurdu. Şirket bu ay, endişe verici model davranışlarına ilişkin altı vaka yayımladı. 2025'teki tek seferlik bir model değişimi karma bulgular ortaya koydu. OpenAI, Anthropic'in modellerinin kural ihlallerini gizleme olasılığının daha yüksek olduğunu tespit etti. Anthropic ise OpenAI'ın modellerinin zararlı taleplere yardımcı olmaya daha istekli olduğunu tespit etti. The Information'ın haberinden günler önce Palantir CEO'su Alex Karp, Anthropic'in halka açık piyasalara ulaşıp ulaşamayacağını sorguladı. CNBC röportajı sırasında sunucu, Karp'ın tanımladığı yükümlülüğün, bir şirketin hisselerini halka satmadan önce sunduğu tescil belgesi olan S-1'e nasıl yazılacağını sordu. Karp bu varsayımı sorguladı ve bir S-1 olmayabileceğini söyledi. Karp, sınırsız aşağı yönlü risk taşıdığını iddia eden bir şirketin sonunda hükümetten bu riski üstlenmesini isteyeceğini ve bunun karşılığında işletmenin yaklaşık yarısıyla ödeme yapacağını savundu. Karp, ilk savunma hattının pervasızca hareket eden geliştiriciler için olağan hukuki ve cezai sorumluluk olması gerektiğini söyledi. Karp bu argümanı, kurnaz ve etik olarak nitelendirdiği Anthropic CEO'su Dario Amodei'ye yöneltti. OpenAI'ye aynı muamelenin yapılıp yapılmaması gerektiği sorulduğunda Karp bu görüşü reddetti ve iki şirketin çok farklı olduğunu söyledi. Anthropic halka açık piyasalara giriş hazırlığı yapıyor. Sam Altman, 12 Eylül'de OpenAI'ın güvenlik çalışmaları tamamlanmadığı için 2026'da borsaya kote olmayacağını söyledi. Palantir, hükümetlere ve büyük işletmelere rakip yazılımlar satıyor; bu da Karp'a tartışmada bir çıkar sağlıyor.