Anthropic選擇埃森哲擔任首個嵌入式AI評估機構

Anthropic表示，該公司已選擇埃森哲及其AI事業Faculty，擔任首個嵌入式評估機構，協助根據執行長達里奧·阿莫迪於9月12日公布的三步驟提案，放慢AI發展。這項合作將包括評估模型、進行紅隊測試、執行對齊評估，以及測試模型防護措施。Anthropic此前已單方面承諾，讓獨立評估機構取得類似員工的存取權限。該公司表示，由於嵌入式評估是新興領域，這項安排的運作細節仍在制定中。根據公告，Anthropic與埃森哲預計在未來5年內各自為該計畫投資至少$10億。Anthropic表示，目前沒有為獨立評估提供資金的既有制度，長期資金應來自共同資金或政府來源。由於這項工作的迫切性，Anthropic將直接為埃森哲的工作提供資金。這項合作並非排他性合作，Anthropic預計在未來幾週宣布其他評估機構。阿莫迪的提案警告，快速且不受制約的AI發展可能超越理解及控制這些系統的能力。OpenAI執行長山姆·奧特曼與SpaceX執行長伊隆·馬斯克對這項提案表示正面回應，而Nvidia執行長黃仁勳則認為沒有必要進行這類監管。埃森哲董事長兼執行長Julie Sweet表示，嵌入式評估是新興領域，公司認為這是未來安全版圖的重要一環。埃森哲表示，Faculty具備為領先AI實驗室測試及評估模型，以及打造旨在確保安全與符合倫理的複雜AI系統的經驗。