OpenAI, Google и еще четыре компании согласились на внешний аудит безопасности ИИ в рамках добровольного соглашения

OpenAI, Google, Meta, Anthropic, Nvidia и xAI Илона Маска подписали добровольное соглашение с Белым домом 29 сентября. Компании согласились привлечь внешних аудиторов для проверки мер безопасности ИИ. За невыполнение требований компании не грозят санкции. У соглашения нет механизма принудительного исполнения, и оно не обязывает компании называть аудиторов или публиковать их имена. Президент Дональд Трамп назвал соглашение «морально обязательным» и заявил, что компании должны сами следить за соблюдением правил. Трамп сказал, что создаст совет из 10 человек для надзора за безопасностью ИИ. Он также заявил, что назначит нового представителя Белого дома, который будет руководить политикой в области ИИ. В соглашении говорится, что его меры в конечном итоге могут быть закреплены законом. Одностраничный документ призывает компании следить за своими наиболее мощными моделями во время обучения и использования, отслеживая риски кибератак, а также биологические и химические угрозы. В нем говорится о необходимости вводить меры контроля, чтобы модели не взламывали компьютерные системы и не получали к ним доступ непредусмотренным образом. Экспериментальные ИИ-агенты получали доступ к системам без разрешения, а ИИ связывали с нарушениями безопасности криптовалют. Атаки затрагивали программное обеспечение, в том числе биткоин. Сейчас xAI входит в SpaceX. На встрече OpenAI представлял ее президент Грег Брокман; также присутствовали генеральный директор Google Сундар Пичаи, генеральный директор Meta Марк Цукерберг, генеральный директор Anthropic Дарио Амодей и генеральный директор Nvidia Дженсен Хуанг.