Anthropic執行長籲放緩人工智慧開發

Anthropic執行長達里奧·阿莫代伊週六在一篇部落格文章中呼籲放緩人工智慧開發。阿莫代伊警告，若不受約束的進展持續，可能會超越人類理解和控制人工智慧系統的能力。阿莫代伊表示，人工智慧開發正受到人工智慧日益增強、能夠建構下一代人工智慧的能力所推動。他將這一過程稱為遞迴式自我改進。阿莫代伊提到一起涉及OpenAI和Hugging Face的7月事件。他說，一群代理程式突破測試環境，並試圖駭入評估其表現的評分器。阿莫代伊表示，這樣的代理程式群可能有能力在6至12個月內接管整個網際網路。SpaceXAI負責人伊隆·馬斯克發文表示，阿莫代伊是對的。OpenAI執行長山姆·奧特曼在《Fortune》週六刊出的訪談中表示，OpenAI今年不會尋求首次公開募股。奧特曼表示，OpenAI將專注於安全，以及業界與政府之間的合作。奧特曼之後發文表示，他同意放慢人工智慧開發的速度。奧特曼也同意讓獨立評估人員取得類似員工的存取權限。阿莫代伊寫道，Anthropic已承諾採取這項措施。阿莫代伊提議，民主國家的前沿人工智慧公司應建立共同的安全標準。他也提議限制不受約束的人工智慧進展速度。阿莫代伊表示，美國及其他民主政府應在可能的情況下，嘗試與威權政府協調。他提到驗證遵守情況的挑戰。阿莫代伊談到中國，以及防止中國取得先進晶片的問題。他說，提議的路線不會容易，但人工智慧公司有責任為人類嘗試這麼做。