OpenAI, Kongre’ye yapay zekâ geliştirmeyi yavaşlatma anlaşmalarının rekabet yasalarını ihlal edip edemeyeceğini soruyor

OpenAI, yapay zekâ şirketlerinin geliştirmeyi yavaşlatma konusunda yasal olarak anlaşmaya varıp varamayacağını Kongre üyelerine sordu. WIRED, OpenAI’ye yakın kişilere dayanarak şirketin, böyle bir anlaşmanın rekabet yasalarını ihlal edip edemeyeceğini yasa koyuculara sorduğunu bildirdi. Şirketin baş bilim insanı Jakub Pachocki, geliştiriciler sistemlerinin güvenli olduğunu daha iyi ortaya koyabilene kadar gönüllü yavaşlama çağrısı yaptı. Demokrasi ve Teknoloji Merkezi’nin baş teknoloji uzmanı Miranda Bogen, yoğun ticari ve jeopolitik rekabetin şirketleri riskleri tam olarak anlaşılmadan ürün çıkarmaya teşvik ettiğini söyledi. Bogen, şirketlerin, kurum içindeki çalışanlar daha fazla test yapılması gerektiğine inansa bile araştırmaları azaltmaları ve güvenlik testlerini atlamaları yönünde baskı gördüğünü belirtti. Senatörler Adam Schiff ve Jim Banks tarafından sunulan bir yasa tasarısı, belirli güvenlik iş birliklerini koruyacak. Tasarı, Adalet Bakanlığı’na önceden bildirimde bulunulmasını gerektirecek. Amerika Birleşik Devletleri ve Çin, yapay zekâ alanında liderlik için rekabet ediyor. Başkan Donald Trump, ABD’nin Çin karşısındaki liderliğini zayıflatabileceği endişeleri nedeniyle yapay zekâya ilişkin bir başkanlık kararnamesini mayıs ayında erteledi. Trump kararnameyi haziran ayında imzaladı. Kararname, gelişmiş modeller piyasaya sürülmeden önce gönüllü bir inceleme süreci oluşturdu. Makine Zekâsı Araştırma Enstitüsü’nün (Machine Intelligence Research Institute) iletişim başkanı Duncan Sabien, finansal teşviklerin koordinasyonu zorlaştırdığını söyledi. Sabien, her ilerlemenin milyonlarca veya milyarlarca dolarlık fonlama yaratabileceğini ve bu ilerlemelerin yaratıcılarının gücünü ve etkisini artırabileceğini belirtti. Sabien, her yeni sistemin daha yetenekli halefler oluşturmaya yardımcı olması nedeniyle OpenAI ve Anthropic’in ilerlemeyi sürdürmeleri yönünde baskıyla karşı karşıya olduğunu söyledi. Ortak bir anlaşma olmadan yavaşlayan bir şirketin geride kalabileceğini belirtti. Sabien, her sistemin bir sonraki sistemi eğitmeyi ve devreye almayı kolaylaştırabilmesi nedeniyle zekâdaki kazanımların bileşik şekilde arttığını söyledi. OpenAI, siber güvenlik endişelerine karşı daha güçlü önlemleri bulunmadığı için ağustos ayında kurum içindeki Astra çalışmalarını duraklattı. OpenAI ve Anthropic, güvenlik taahhütlerini şubat ayında gevşetti. Anthropic’in baş bilim sorumlusu Jared Kaplan, rakipler ilerlemeyi sürdürürken bağımsız olarak yavaşlamanın daha az anlamlı olduğunu savundu. Eski Anthropic mühendisi Jacob Coxon bu hafta istifa ettiğini açıkladı. Coxon, yapay zekânın devam eden gelişiminin insanlık için oluşturduğu risklere ilişkin endişelerini gerekçe gösterdi. Coxon, yapay zekâ geliştiricilerinin teknolojinin on yılın sonuna kadar herkesi öldürebileceğine inandığını söyledi. Sabien, yerlerine başka biri gelirse araştırmacıların ayrılarak çok az şey başarabileceğini belirtti. Sabien, yeterli sayıda araştırmacı hep birlikte durmaları gerektiği konusunda anlaşırsa araştırmacıların birlikte durabileceğini söyledi.