OpenAI спрашивает Конгресс, не могут ли соглашения о замедлении развития ИИ нарушать антимонопольное законодательство

OpenAI спросила членов Конгресса, могут ли компании, занимающиеся ИИ, на законных основаниях договориться о замедлении разработки. WIRED со ссылкой на людей, близких к OpenAI, сообщил, что компания спросила законодателей, может ли такое соглашение нарушать антимонопольное законодательство. Главный научный сотрудник компании Якуб Пацоцки призвал к добровольному замедлению разработки до тех пор, пока разработчики не смогут убедительнее доказать безопасность своих систем. Миранда Боген, главный технолог Центра демократии и технологий, заявила, что острая коммерческая и геополитическая конкуренция побуждает компании выпускать продукты до того, как их риски будут полностью изучены. Боген сказала, что компании испытывают давление, вынуждающее их сокращать исследования и пропускать проверки безопасности, даже когда сотрудники внутри компаний считают, что необходимо дополнительное тестирование. Законопроект, внесённый сенаторами Адамом Шиффом и Джимом Бэнксом, предусматривает защиту определённых совместных инициатив в сфере безопасности. Законопроект потребует предварительного уведомления Министерства юстиции. США и Китай конкурируют за лидерство в области искусственного интеллекта. Президент Дональд Трамп отложил указ об ИИ в мае из-за опасений, что он может ослабить лидерство США по отношению к Китаю. Трамп подписал указ в июне. Указ создал добровольный процесс проверки перед выпуском передовых моделей. Дункан Сабиен, руководитель отдела коммуникаций Института исследования машинного интеллекта (Machine Intelligence Research Institute), заявил, что финансовые стимулы затрудняют координацию. Сабиен сказал, что каждое достижение может привлечь финансирование в размере многих миллионов или миллиардов долларов и усилить власть и влияние его создателей. Сабиен заявил, что OpenAI и Anthropic испытывают давление, вынуждающее их продолжать развитие, поскольку каждая новая система помогает создавать более совершенных преемников. Он сказал, что компания может отстать, если замедлит работу без общего соглашения. Сабиен заявил, что прирост интеллектуальных возможностей накапливается, поскольку каждая система может облегчить обучение и развёртывание следующей системы. В августе OpenAI приостановила внутреннюю работу над Astra, поскольку ей не хватало более серьёзных мер защиты от угроз кибербезопасности. OpenAI и Anthropic ослабили свои обязательства по безопасности в феврале. Главный научный сотрудник Anthropic Джаред Каплан утверждал, что самостоятельное замедление имело меньше смысла, пока конкуренты продолжали развиваться. Бывший инженер Anthropic Джейкоб Коксон объявил о своей отставке на этой неделе. Коксон сослался на опасения по поводу рисков, которые дальнейшее развитие ИИ несёт для человечества. Коксон сказал, что создатели ИИ считают, что эта технология может убить всех к концу десятилетия. Сабиен заявил, что исследователи могут мало чего добиться, уйдя, если их заменит другой человек. Сабиен сказал, что исследователи могли бы остановиться вместе, если бы достаточно многие из них согласились, что им всем следует остановиться.