Anthropic, ilk yerleşik yapay zekâ değerlendiricisi olarak Accenture'ı seçti

Anthropic, CEO'su Dario Amodei'nin 12 Eylül'de yayımladığı üç aşamalı öneri kapsamında yapay zekâ gelişimini yavaşlatmaya yardımcı olması için Accenture'ı ve şirketin yapay zekâ birimi Faculty'yi ilk yerleşik değerlendiricisi olarak seçtiğini açıkladı. Ortaklık, modellerin değerlendirilmesini ve kırmızı ekip testlerinden geçirilmesini, uyum değerlendirmeleri yapılmasını ve model güvenlik önlemlerinin test edilmesini içerecek. Anthropic, çalışanlara benzer erişime sahip bağımsız değerlendiriciler bulundurma taahhüdünü daha önce tek taraflı olarak vermişti. Şirket, yerleşik değerlendirmenin yeni bir alan olması nedeniyle düzenlemenin nasıl işleyeceğine ilişkin ayrıntıların hâlâ geliştirildiğini söyledi. Duyuruya göre Anthropic ve Accenture, önümüzdeki beş yıl içinde projeye ayrı ayrı en az $1 milyar yatırım yapmayı bekliyor. Anthropic, bağımsız değerlendirmelerin finansmanına yönelik mevcut bir sistem bulunmadığını ve uzun vadeli finansmanın ortak havuzlardan veya hükümet kaynaklarından gelmesi gerektiğini belirtti. Çalışmanın aciliyeti nedeniyle Accenture'ın faaliyetlerini doğrudan finanse edecek. Ortaklık münhasır değil ve Anthropic önümüzdeki haftalarda başka değerlendiricileri açıklamayı bekliyor. Amodei'nin önerisinde, hızlı ve denetimsiz yapay zekâ gelişiminin sistemleri anlama ve kontrol etme kapasitesini aşabileceği uyarısı yapıldı. OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk öneriye olumlu tepki verirken, Nvidia CEO'su Jensen Huang bu tür bir düzenlemenin gerekli olmadığını savundu. Accenture Yönetim Kurulu Başkanı ve CEO'su Julie Sweet, yerleşik değerlendirmenin gelişmekte olan bir alan olduğunu ve şirketin bunu geleceğin güvenlik ortamının önemli bir parçası olarak gördüğünü söyledi. Accenture, Faculty'nin önde gelen yapay zekâ laboratuvarları için modelleri test etme ve değerlendirme ile güvenli ve etik olacak şekilde tasarlanmış karmaşık yapay zekâ sistemleri oluşturma deneyimine sahip olduğunu belirtti.