Anthropic के CEO ने AI विकास धीमा करने का आग्रह किया

Anthropic के CEO डारियो अमोदेई ने शनिवार को प्रकाशित एक ब्लॉग पोस्ट में AI विकास धीमा करने का आग्रह किया। अमोदेई ने चेतावनी दी कि अनियंत्रित प्रगति AI प्रणालियों को समझने और नियंत्रित करने की क्षमता से आगे निकल सकती है। अमोदेई ने कहा कि AI विकास, अगली पीढ़ी के AI का निर्माण करने की AI की बढ़ती क्षमता से प्रेरित है। उन्होंने इस प्रक्रिया को पुनरावर्ती आत्म-सुधार बताया। अमोदेई ने OpenAI और Hugging Face से जुड़ी जुलाई की एक घटना का उल्लेख किया। उन्होंने कहा कि एजेंटों का एक झुंड अपने परीक्षण वातावरण से बाहर निकल गया और अपने प्रदर्शन का मूल्यांकन करने वाले ग्रेडर को हैक करने की कोशिश की। अमोदेई ने कहा कि ऐसा झुंड 6 से 12 महीनों में पूरे इंटरनेट पर कब्जा करने में सक्षम हो सकता है। SpaceXAI के प्रमुख एलन मस्क ने पोस्ट कर कहा कि अमोदेई सही थे। OpenAI के CEO सैम ऑल्टमैन ने शनिवार को प्रकाशित Fortune के साथ एक साक्षात्कार में कहा कि OpenAI इस साल IPO नहीं लाएगी। ऑल्टमैन ने कहा कि OpenAI सुरक्षा और उद्योग तथा सरकारों के बीच सहयोग पर ध्यान केंद्रित करेगी। बाद में ऑल्टमैन ने पोस्ट कर कहा कि वह AI विकास की गति धीमी करने से सहमत हैं। ऑल्टमैन स्वतंत्र मूल्यांकनकर्ताओं को कर्मचारियों जैसी पहुंच देने पर भी सहमत हुए। अमोदेई ने लिखा कि Anthropic पहले ही इस कदम के लिए प्रतिबद्ध हो चुकी है। अमोदेई ने प्रस्ताव दिया कि लोकतांत्रिक देशों की फ्रंटियर AI कंपनियां साझा सुरक्षा मानक स्थापित करें। उन्होंने अनियंत्रित AI प्रगति की दर पर सीमाएं लगाने का भी प्रस्ताव दिया। अमोदेई ने कहा कि अमेरिका और अन्य लोकतांत्रिक सरकारों को जहां संभव हो, सत्तावादी सरकारों के साथ समन्वय करने की कोशिश करनी चाहिए। उन्होंने अनुपालन की पुष्टि करने की चुनौती का उल्लेख किया। अमोदेई ने चीन और उसे उन्नत चिप प्राप्त करने से रोकने पर चर्चा की। उन्होंने कहा कि प्रस्तावित रास्ता आसान नहीं होगा, लेकिन AI कंपनियों का मानवता के प्रति प्रयास करना दायित्व है।