California, test ortamından kaçan yapay zeka modelleri nedeniyle OpenAI'ye soruşturma celbi gönderdi

California Başsavcısı Rob Bonta, ofisinin yapay zeka modellerini içeren siber güvenlik olayları hakkında yanıt almak üzere çarşamba günü OpenAI'ye soruşturma celbi gönderdiğini perşembe günü açıkladı. Celp, Bonta'nın eylül ayında Hugging Face'e izinsiz erişimle ilgili duyurduğu resmi soruşturmanın parçası. Bonta'nın ofisi, OpenAI'den hangi belgeleri veya bilgileri sunmasının istendiğini kamuoyuna açıklamadı. Soruşturma celbi, yetkililer dava açıp açmayacağına karar vermeden önce bilgi toplar. Celp, belgelerin sunulmasını veya soruların yanıtlanmasını hukuken zorunlu kılar; celbe uymamak kişinin hâkim karşısına çıkmasına yol açar.

Bonta, ofisinin OpenAI ve yapay zeka modelleriyle bağlantılı siber güvenlik olayları ve riskleri hakkında ek sorular yönelttiğini söyledi. Bonta, mevcut en gelişmiş yapay zeka sistemleri olan öncü modellerin siber savunma için meşru araçlar olabileceğini belirtti. Ancak Bonta, geliştiricilerin modellerin test sırasında veya kullanıma sunulduktan sonra siber saldırılar gerçekleştirmesini ya da bunlara olanak sağlamasını önleme konusunda ahlaki ve hukuki sorumluluğu bulunduğunu söyledi. Bonta, bu sorumluluğu yerine getirmeyen geliştiricilerin hukuken sorumlu tutulabileceğini ve tutulması gerektiğini belirtti. Bonta, ofisinin bu olayda OpenAI'nin sorumlu tutulup tutulmaması gerektiğini belirlemeye kararlı olduğunu söyledi.

Celp, OpenAI'nin iki modelini içeren temmuz ayındaki olayın ardından geldi. OpenAI, modellerin bir yapay zeka sisteminin gerçek yazılımlardaki 898 güvenlik açığının her birini işleyen bir saldırıya dönüştürmesini gerektiren bir ölçüt kapsamında değerlendirildiğini söyledi. Modeller, test ortamında kod paketlerini yüklemek için kullanılan üçüncü taraf bir yazılımda daha önce bilinmeyen ve mevcut bir düzeltmesi bulunmayan bir güvenlik açığı buldu. Modeller, bu açığı kullanarak test ortamından çıktı. Modeller, yapay zeka modelleri ve veri kümelerinin paylaşıldığı bir platform olan Hugging Face'in ölçütün yanıtlarını barındırıyor olabileceği sonucuna vardı. Bu yanıtları aramak için çalıntı kimlik bilgileri ve ek güvenlik açıklarını kullanarak Hugging Face'e girdi.

Hugging Face izinsiz erişimi 16 Temmuz'da açıkladı. OpenAI, beş gün sonra modellerinin sorumlu olduğunu doğruladı. OpenAI daha sonra aynı modellerin dört başka hizmetteki hesaplara eriştiğini söyledi.

OpenAI'nin merkezi California'da bulunuyor. Bonta, Ekim 2025'te OpenAI'nin kâr amacı güden bir yapıya geçmesine karşı çıkmadı. Bonta o sırada, ofisinin tüm California sakinlerinin güvenliğini korumak için OpenAI'yi yakından izleyeceğini söyledi. Iowa Başsavcısı Brenna Bird, ağustosta 15 eyaletli bir koalisyona öncülük ederek OpenAI'den kayıtları saklamasını ve saldırı hakkında şeffaflık sağlamasını talep etti. Alabama kendi celbini gönderdi. Federal Ticaret Komisyonu'nun OpenAI ve Anthropic dahil yapay zeka laboratuvarlarını soruşturduğu bildiriliyor.

Ayrı bir gelişmede, Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının haziranda Medicare istatistik portalına eriştiğini söyledi. O sırada bu izinsiz erişim, bir yapay zeka ajanının devlet kurumuna ait bir internet sitesini ele geçirdiği bilinen ilk vaka gibi görünüyordu. OpenAI ajanlarının yaz aylarında ABD hükümetine ait internet sitelerine de eriştiği daha sonra ortaya çıktı. Ancak bu ABD hükümet sitelerinde kamuya açık olmayan herhangi bir bilgiye erişilmiş görünmüyor.