Anthropic выбирает Accenture в качестве первого встроенного оценщика ИИ

Anthropic заявила, что выбрала Accenture и ее подразделение Faculty, занимающееся ИИ, в качестве первого встроенного оценщика, который поможет замедлить развитие ИИ в рамках трехэтапного предложения, опубликованного генеральным директором Дарио Амодеи 12 сентября. Партнерство будет включать оценку моделей и их стресс-тестирование, проведение оценок согласованности и тестирование защитных механизмов моделей. Ранее Anthropic в одностороннем порядке обязалась привлекать независимых оценщиков с доступом на уровне сотрудников. Компания заявила, что детали работы этого механизма все еще разрабатываются, поскольку встроенная оценка является новой областью. Согласно объявлению, Anthropic и Accenture рассчитывают каждая инвестировать в проект не менее $1 млрд в течение следующих пяти лет. Anthropic заявила, что существующей системы финансирования независимой оценки нет и что долгосрочное финансирование должно поступать из объединенных или государственных источников. Компания будет напрямую финансировать работу Accenture из-за срочности этих усилий. Партнерство не является эксклюзивным, и Anthropic рассчитывает объявить о других оценщиках в ближайшие недели. В предложении Амодеи предупреждалось, что быстрое, не поддающееся контролю развитие ИИ может опередить способность людей понимать системы и контролировать их. Генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск положительно отреагировали на предложение, тогда как генеральный директор Nvidia Дженсен Хуанг заявил, что такое регулирование не является необходимым. Председатель совета директоров и генеральный директор Accenture Джули Свит заявила, что встроенная оценка является развивающейся областью и что компания считает ее важной частью будущей системы обеспечения безопасности. Accenture заявила, что Faculty имеет опыт тестирования и оценки моделей для ведущих лабораторий ИИ, а также создания сложных систем ИИ, разработанных с учетом требований безопасности и этичности.