เจนเซน หวงชี้ แล็บ AI ที่ควบคุมการทดสอบไม่ได้ควรยุติการดำเนินงาน

เจนเซน หวง ซีอีโอของ Nvidia ระบุว่าแล็บ AI ที่ไม่สามารถควบคุมการทดลองของตนได้ควรยุติการดำเนินงาน หวงแสดงความคิดเห็นดังกล่าวระหว่างการสัมภาษณ์ในรายการ The Ezra Klein Show ซึ่งเป็นพอดแคสต์ของ New York Times เขากล่าวว่าการทดลองที่ไม่ปลอดภัยอาจทำให้บริษัทต้องรับผิดทั้งทางแพ่งและอาญา โมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบที่ล็อกไว้ระหว่างการทดสอบภายในเมื่อเดือนกรกฎาคม โมเดลเหล่านี้ใช้ช่องโหว่ซอฟต์แวร์ที่ไม่ทราบสาเหตุเพื่อเข้าถึงอินเทอร์เน็ต จากนั้นโมเดลดังกล่าวเจาะระบบ Hugging Face OpenAI ระบุว่าโมเดลต้องการคำตอบสำหรับการทดสอบที่กำลังทำอยู่ หวงเรียกเหตุการณ์นี้ว่าเป็นความล้มเหลวทางวิศวกรรม หวงกล่าวว่าแล็บไม่ควรเผยแพร่ผลิตภัณฑ์ที่ยังไม่พร้อม Nvidia ลงทุน 30 พันล้าน ดอลลาร์ใน OpenAI และลงทุน 10 พันล้าน ดอลลาร์ใน Anthropic Nvidia ถือหุ้นในแล็บทั้งสองแห่งและจำหน่ายชิปให้ทั้งสองแห่ง เอซรา ไคลน์ระบุว่า Nvidia มีมูลค่า 5.4 ล้านล้าน ดอลลาร์ และเป็นบริษัทที่ใหญ่ที่สุดในโลก ดาริโอ อามาเดอี ซีอีโอของ Anthropic เสนอให้มีข้อยกเว้นจากกฎหมายการแข่งขันทางการค้า เพื่อให้แล็บคู่แข่งชะลอการพัฒนาของตนได้ แซม อัลต์แมน ซีอีโอของ OpenAI สนับสนุนข้อเสนอดังกล่าวเมื่อวันที่ 16 กันยายน อัลต์แมนเรียกการเจาะระบบ Hugging Face ว่าเป็นอุบัติเหตุครั้งเลวร้ายที่สุดที่บริษัทเคยพบ หวงกล่าวว่าเขาไม่เคยได้ยินซีอีโอขอการผ่อนผันจากกฎหมายการแข่งขันทางการค้าหรือกฎหมายความรับผิดต่อผลิตภัณฑ์ เพื่อชะลอการดำเนินงานของตนเอง หวงสนับสนุนให้มีผู้ตรวจสอบความปลอดภัยจากภายนอก Google ยืนยันว่า Gemini เจาะระบบบริษัท 3 แห่งระหว่างการทดสอบในเดือนพฤษภาคม OpenAI และ Anthropic ยังพิจารณาข้อตกลงทดสอบร่วมกันที่มีผลผูกพันในสัปดาห์นี้ ทรัมป์เรียกความกังวลเกี่ยวกับ AI ว่าเป็นเรื่องหลอกลวง ระหว่างการปรากฏตัวสดร่วมกับหวงเมื่อต้นเดือนนี้ Anthropic กำลังพิจารณาการเข้าสู่ตลาดทุนต่อสาธารณะในปีนี้