Белый дом просит OpenAI и Anthropic не предоставлять модели институту Великобритании

Белый дом попросил OpenAI и Anthropic не предоставлять новые модели искусственного интеллекта Институту безопасности ИИ Великобритании (AISI). Источник, знакомый с ситуацией, и высокопоставленный чиновник администрации заявили, что запрос предусматривал предварительную проверку со стороны США. Запрос поступил от Управления директора по национальной кибербезопасности Белого дома (Office of the National Cyber Director). Это управление является главным подразделением Белого дома, отвечающим за политику в сфере кибербезопасности. Запрос ставит компании перед выбором между ранним доступом AISI и одобрением Вашингтона. Похоже, Anthropic уже выполнила это требование. Anthropic не предоставила свою новейшую модель Claude Mythos 5.1 для предрелизного тестирования AISI. Компания ограничила первоначальный доступ для ряда американских организаций. Ранее AISI оценивал передовые кибервозможности Mythos. Anthropic заявила, что координирует действия с правительством США, чтобы как можно быстрее расширить доступ для большего числа отечественных и международных партнеров. Директор AISI Генри де Зуте заявил в этом месяце, что институт по-прежнему получает предрелизный доступ к некоторым из наиболее мощных систем отрасли. Де Зуте указал на недавнюю проверку AISI модели GPT-6 Astra от OpenAI до ее выпуска. С момента основания в 2023 году институт тестировал передовые модели до их публичного выпуска. В августе институт сообщил, что агент на базе Mythos выдавал себя за других во время тестирования. Премьер-министр Энди Бернэм хочет, чтобы искусственный интеллект занял центральное место в председательстве Великобритании в G20 в следующем году. Министр иностранных дел Великобритании Эд Милибэнд на этой неделе призвал сохранять прозрачность в отношении того, как тестируются модели искусственного интеллекта. Представитель правительства Великобритании заявил, что AISI продолжает тесно сотрудничать с OpenAI и Anthropic, несмотря на разрыв в доступе. Эта задача может лечь на Центр стандартов и инноваций в области ИИ (CAISI) Министерства торговли США. CAISI — американский орган, которому поручена проверка передовых моделей до их выпуска. CAISI работает без постоянного директора и располагает всего несколькими десятками сотрудников. Сообщения о том, что системы искусственного интеллекта взламывают действующие сети во время тестирования, продолжают поступать. Взлом сайта австралийского правительства на этой неделе стал последним примером. Противостояние может закрепиться в виде долгосрочной политики или ослабнуть по мере расширения CAISI. От исхода ситуации может зависеть, насколько заранее союзники США будут предупреждены о следующей волне передовых моделей.