アンスロピック、アクセンチュアを初の組み込み型AI評価者に選定

アンスロピックは、9月12日にダリオ・アモデイCEOが公表した3段階の提案に基づき、AI開発の減速を支援する初の組み込み型評価者に、アクセンチュアとそのAI事業部門ファカルティを選んだと明らかにした。提携では、モデルの評価とレッドチームテスト、アラインメント評価の実施、モデルの安全策のテストを行う。アンスロピックはすでに、従業員に準じるアクセス権を持つ独立評価者を置くことを一方的に約束していた。同社によると、組み込み型評価は新しい分野であるため、この取り決めがどのように機能するかの詳細は現在も策定中だ。発表によると、アンスロピックとアクセンチュアはそれぞれ今後5年間で、このプロジェクトに少なくとも$10億を投資する見通しだ。アンスロピックは、独立評価に資金を提供する既存の仕組みはなく、長期的な資金は共同拠出資金または政府系の資金源から拠出されるべきだと述べた。同社は取り組みの緊急性を理由に、アクセンチュアの業務に直接資金を提供する。提携は独占的なものではなく、アンスロピックは今後数週間以内に他の評価者も発表する見通しだ。アモデイ氏の提案は、急速で制御されていないAI開発が、システムを理解し制御する能力を追い越す可能性があると警告した。オープンAIのサム・アルトマンCEOとスペースXのイーロン・マスクCEOはこの提案に肯定的な反応を示した一方、エヌビディアのジェンスン・フアンCEOは、このような規制は必要ないと主張した。アクセンチュアのジュリー・スウィート会長兼CEOは、組み込み型評価は発展途上の分野であり、同社はこれを将来の安全性をめぐる環境の重要な一部と捉えていると述べた。アクセンチュアによると、ファカルティは主要AI研究所向けにモデルのテストと評価を行い、安全で倫理的になるよう設計された複雑なAIシステムを構築した経験がある。