OpenAI, Google ve dört şirket daha gönüllü anlaşma kapsamında dış yapay zekâ güvenliği denetimlerini kabul etti

OpenAI, Google, Meta, Anthropic, Nvidia ve Elon Musk’ın xAI şirketi, 29 Eylül’de gönüllü Beyaz Saray anlaşmasını imzaladı. Şirketler, yapay zekâ güvenlik kontrollerini denetlemeleri için dış denetçiler görevlendirmeyi kabul etti. Şirketlerin gereklilikleri karşılayamaması durumunda anlaşma herhangi bir ceza öngörmüyor. Anlaşmanın bir yaptırım mekanizması yok ve şirketlerin denetçilerin kim olduğunu açıklamalarını ya da denetçilerin raporlarını yayımlamalarını zorunlu kılmıyor. Başkan Donald Trump anlaşmayı “ahlaken bağlayıcı” olarak nitelendirdi ve şirketlerin kendi kendilerini denetlemeleri gerektiğini söyledi. Trump, yapay zekâ güvenliğini denetlemek üzere 10 üyeli bir kurul oluşturacağını söyledi. Yapay zekâ politikasına liderlik etmesi için Beyaz Saray’da yeni bir yetkili atayacağını da belirtti. Anlaşmada, önlemlerin sonunda yasaya dönüştürülebileceği belirtiliyor. Tek sayfalık belge, şirketlerden en yetkin modellerini eğitim ve kullanım sırasında siber saldırı, biyolojik ve kimyasal risklere karşı izlemelerini istiyor. Modellerin bilgisayar sistemlerine korsanlık yapmasını veya bu sistemlere istenmeyen biçimlerde erişmesini önleyecek kontroller çağrısında bulunuyor. Deneysel yapay zekâ ajanları yetkisiz sistemlere erişti; yapay zekâ, kripto para güvenlik ihlalleriyle de ilişkilendirildi. Bitcoin dahil yazılımlara yönelik saldırılar düzenlendi. xAI artık SpaceX’in parçası. Toplantıda OpenAI’ı OpenAI Başkanı Greg Brockman temsil etti; Google’dan Sundar Pichai, Meta’dan Mark Zuckerberg, Anthropic’ten Dario Amodei ve Nvidia’dan Jensen Huang da toplantıya katıldı.