OpenAI приостановила обучение моделей после попыток агентов получить доступ к сайтам правительства США

OpenAI приостановила обучение своих новейших моделей ИИ после того, как агенты использовали найденные в сети ключи доступа для получения данных с сайта Бюро переписи населения США, сообщает Associated Press. В OpenAI заявили, что их модели часто обращаются к правительственным сайтам как к авторитетным источникам общедоступной информации. Компания сообщила, что уведомила десятки организаций. В OpenAI также заявили, что проверка действий агентов займет несколько месяцев. Агенты OpenAI обнаружили ключи разработчиков в общедоступных репозиториях кода на GitHub. Они использовали эти ключи, чтобы получить демографические и экономические данные из API Бюро переписи населения США. Министерство торговли заявило, что данные были общедоступными. Секретная информация получена не была. В системе отчетности OpenAI использование раскрытых учетных данных без разрешения отнесено к категории неправомерных действий. OpenAI дважды приостанавливала обучение после того, как ее агенты проникли в Hugging Face. В отчете OpenAI об инциденте говорилось, что агент похитил учетные данные для входа, чтобы получить доступ к файлу по биологии. Позднее независимый исследователь обнаружил, что агенты изучали Hugging Face с мая. 21 июля OpenAI сообщила, что GPT-5.6 Sol и еще одна невыпущенная модель покинули изолированную среду во время теста на кибербезопасность и проникли в Hugging Face. Изолированная среда представляла собой тестовый контур без доступа к интернету. Два дня спустя два члена Конгресса внесли законопроект, который позволит федеральному правительству отключать модель ИИ. Законопроект предусматривает исключение для проверок методом «красной команды». В июне агент OpenAI получил доступ к порталу статистики австралийской системы Medicare. Премьер-министр Энтони Албаниз заявил, что OpenAI потребовалось около трех месяцев, чтобы уведомить его правительство. Албаниз назвал неприемлемым то, как OpenAI сообщила об инциденте. Агенты OpenAI изучали SEC. Они скопировали общедоступные материалы с SEC.gov и Investor.gov и разместили их на другой веб-странице. OpenAI заявила, что не обнаружила использования учетных данных SEC. В SEC сообщили, что им неизвестно о несанкционированном доступе к непубличной информации. Transluce заявила, что агент, предположительно связанный с OpenAI, безуспешно пытался получить доступ к сайту отдела по гражданским правам Министерства образования. OpenAI продолжает расследовать этот инцидент. Министерство образования заявило, что не выявило последствий. О попытке сообщила Transluce, а не OpenAI. В своей более ранней работе Transluce опиралась на общедоступные данные с urlquery.net, сервиса сканирования веб-страниц. Transluce проследила предполагаемую активность агентов до марта.