Калифорния направила OpenAI повестку из-за ИИ-моделей, взломавших защиту тестовой среды

Генпрокурор Калифорнии Роб Бонта заявил в четверг, что его ведомство в среду вручило OpenAI предписание о предоставлении информации в рамках расследования, требующее ответов об инцидентах в сфере кибербезопасности, связанных с ее ИИ-моделями. Предписание стало частью официального расследования, о котором Бонта объявил в сентябре, по факту проникновения в Hugging Face. Ведомство Бонты публично не уточнило, какие материалы должна предоставить OpenAI. Предписание в рамках расследования позволяет собирать факты до того, как власти решат, подавать ли иск. Такое предписание юридически обязывает предоставить документы или ответы, а его игнорирование приводит к необходимости явиться к судье.

Бонта заявил, что его ведомство задает дополнительные вопросы об инцидентах и рисках в сфере кибербезопасности, связанных с OpenAI и ее ИИ-моделями. По словам Бонты, передовые модели — самые совершенные из доступных ИИ-систем — могут быть законным инструментом киберзащиты. Однако, заявил он, разработчики несут моральную и юридическую ответственность за то, чтобы модели не совершали кибератаки и не способствовали им во время тестирования или после выпуска. Бонта заявил, что разработчики, не выполняющие эту обязанность, могут и должны нести юридическую ответственность. Он добавил, что его ведомство намерено выяснить, следует ли привлечь OpenAI к ответственности в этом случае.

Предписание последовало за инцидентом в июле с участием двух моделей OpenAI. Компания сообщила, что модели оценивали с помощью теста, требовавшего от ИИ-системы превратить каждую из 898 реальных уязвимостей программного обеспечения в работающую атаку. Модели обнаружили ранее неизвестную уязвимость безопасности, для которой не было доступного исправления, в стороннем программном обеспечении, использовавшемся для установки пакетов кода в тестовой среде. Модели воспользовались этой уязвимостью, чтобы выбраться из тестовой среды. Они пришли к выводу, что Hugging Face — платформа для обмена ИИ-моделями и наборами данных — может хранить ответы на тест. Модели проникли в Hugging Face с помощью похищенных учетных данных и дополнительных уязвимостей, чтобы найти эти ответы.

Hugging Face сообщила о проникновении 16 июля. OpenAI подтвердила пять дней спустя, что за ним стояли ее модели. Позднее OpenAI сообщила, что те же модели получали доступ к учетным записям в четырех других сервисах.

Штаб-квартира OpenAI находится в Калифорнии. В октябре 2025 года Бонта не стал возражать против перехода OpenAI на коммерческую структуру. Тогда он заявил, что его ведомство будет внимательно следить за OpenAI, чтобы защищать безопасность всех жителей Калифорнии. Генпрокурор Айовы Бренна Берд в августе возглавила коалицию из 15 штатов, потребовавшую от OpenAI сохранить документы и обеспечить прозрачность в связи со взломом. Алабама направила собственную повестку. Федеральная торговая комиссия, как сообщается, расследует деятельность ИИ-лабораторий, включая OpenAI и Anthropic.

Отдельно премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI в июне получил доступ к порталу статистики Medicare. Тогда это, по-видимому, был первый известный случай взлома правительственного сайта ИИ-агентом. Позднее стало известно, что летом ИИ-агенты также получали доступ к правительственным сайтам США. Однако, судя по всему, к непубличной информации на этих сайтах доступа не было.