Трамп и шесть руководителей технологических компаний подписали добровольное соглашение о контроле за ИИ

Во вторник президент Дональд Трамп и шесть руководителей технологических компаний подписали добровольное соглашение об ИИ, призывающее компании самостоятельно контролировать свои системы. По сообщению Reuters, соглашение предусматривает четыре уровня надзора. Компании будут использовать внутренние механизмы контроля, чтобы отслеживать поведение моделей на всех этапах — от обучения до выпуска; особое внимание уделят рискам взлома, а также биологическим и химическим угрозам. Внутренняя команда будет проверять эти механизмы. Каждая компания будет сотрудничать с внешним аудитором для проведения независимой проверки. Независимый комитет совета директоров будет рассматривать выводы аудиторов и контрольных команд. Согласно соглашению, компании-участницы будут регулярно встречаться для выработки стандартов безопасности и передовых практик. По сообщению AP, Трамп подписал документ вместе с Дарио Амодеи (Dario Amodei) из Anthropic, Сундаром Пичаи из Google, Марком Цукербергом из Meta, президентом OpenAI Грегом Брокманом, Дженсеном Хуангом из Nvidia и основателем xAI Илоном Маском. Трамп назвал добровольное обязательство морально обязывающим. В соглашении говорится, что со временем может иметь смысл закрепить предусмотренные им меры законодательно. В опубликованных к настоящему времени материалах о документе не указано, кто будет выбирать аудиторов. Не уточняется и то, какие стандарты они будут применять и что произойдет в случае сбоя механизма контроля. Трамп заявил, что в ближайшие дни назначит ответственного за надзор. Он предположил, что в комитет войдут около 10 человек. Ранее в этом месяце Трамп отверг призывы ввести ограничения для ИИ. Ранее в этом месяце Амодеи призвал замедлить развитие ИИ в эссе. Он заявил, что эта технология несет реальные риски, а меры реагирования все еще обсуждаются. Спикер Палаты представителей Майк Джонсон утверждал, что ответственность за безопасность ИИ лежит на разработчиках.