Трамп представил добровольное соглашение по ИИ, подписанное OpenAI, Google и Nvidia

Во вторник президент Дональд Трамп опубликовал одностраничное соглашение по ИИ после встречи с руководителями компаний в Белом доме. Трамп разместил документ в Truth Social и назвал его «морально обязательным». Документ подписали Трамп и руководители Google, Anthropic, Meta, OpenAI, X и Nvidia. Среди подписавших — президент OpenAI Грег Брокман, Сундар Пичаи из Google, Марк Цукерберг из Meta, Дарио Амодеи из Anthropic, Дженсен Хуанг из Nvidia и Илон Маск, чья компания xAI теперь входит в SpaceX. Соглашение призывает компании поддерживать внутренние механизмы контроля за моделями ИИ, особенно в отношении угроз кибербезопасности, биологической и химической безопасности. Компании также призывают следить за тем, чтобы их системы не получали доступ к техническим системам и не взламывали их непреднамеренным образом. Документ предусматривает проверку механизмов контроля внутренней командой, их независимую оценку внешним аудитором и надзор независимого комитета совета директоров. В документе говорится, что добровольные меры со временем могут стать законом. Соглашение не предусматривает санкций за невыполнение его условий, и критики назвали его поверхностным и необязательным. Трамп заявил, что создаст комитет примерно из 10 человек для надзора за этой работой и назначит чиновника, который будет ее возглавлять. ИИ-агенты неоднократно выходили из-под контроля создателей, а один из агентов OpenAI взломал сайт правительства Австралии. С тех пор парламент Австралии вызвал Альтмана из OpenAI и Амодеи из Anthropic для дачи показаний. По оценкам ряда источников, соглашение не обязывало бы OpenAI сообщить о взломе в Австралии раньше, чем компания это сделала. Подход, при котором компании контролируют себя сами, отражает скептическое отношение администрации к жесткому регулированию ИИ. Гендиректор Anthropic Амодеи выступает за замедление развития отрасли. Также обсуждаются предложения о создании «кнопки экстренного отключения» ИИ, по которым высказалась и Nvidia.