OpenAI ถามสภาคองเกรส ข้อตกลงชะลอ AI อาจละเมิดกฎหมายต่อต้านการผูกขาดหรือไม่

OpenAI ถามสมาชิกรัฐสภาว่า บริษัท AI จะสามารถตกลงกันโดยชอบด้วยกฎหมายเพื่อชะลอการพัฒนาได้หรือไม่ WIRED อ้างบุคคลใกล้ชิดกับ OpenAI ว่า บริษัทได้สอบถามฝ่ายนิติบัญญัติว่าข้อตกลงดังกล่าวอาจละเมิดกฎหมายต่อต้านการผูกขาดหรือไม่ ยาคุบ ปาโชสกี หัวหน้านักวิทยาศาสตร์ เรียกร้องให้ชะลอการพัฒนาโดยสมัครใจ จนกว่านักพัฒนาจะสามารถแสดงให้เห็นได้ดีขึ้นว่าระบบของตนปลอดภัย มิรันดา โบเกน หัวหน้านักเทคโนโลยีของศูนย์เพื่อประชาธิปไตยและเทคโนโลยี กล่าวว่า การแข่งขันทางการค้าและภูมิรัฐศาสตร์ที่เข้มข้นผลักดันให้บริษัทต่าง ๆ เปิดตัวผลิตภัณฑ์ก่อนที่จะเข้าใจความเสี่ยงของผลิตภัณฑ์เหล่านั้นอย่างถ่องแท้ โบเกนกล่าวว่า บริษัทต่าง ๆ เผชิญแรงกดดันให้ลดการวิจัยและข้ามการทดสอบด้านความปลอดภัย แม้บุคลากรภายในจะเชื่อว่าจำเป็นต้องทดสอบเพิ่มเติม ร่างกฎหมายที่เสนอโดยวุฒิสมาชิกอดัม ชิฟฟ์ และจิม แบงก์ส จะคุ้มครองความร่วมมือด้านความมั่นคงบางประเภท ร่างกฎหมายกำหนดให้แจ้งกระทรวงยุติธรรมล่วงหน้า สหรัฐฯ และจีนกำลังแข่งขันกันเพื่อความเป็นผู้นำด้านปัญญาประดิษฐ์ ประธานาธิบดีโดนัลด์ ทรัมป์เลื่อนคำสั่งฝ่ายบริหารด้าน AI ในเดือนพฤษภาคม เนื่องจากกังวลว่าคำสั่งดังกล่าวอาจทำให้สหรัฐฯ สูญเสียความเป็นผู้นำเหนือจีน ทรัมป์ลงนามในคำสั่งดังกล่าวในเดือนมิถุนายน คำสั่งดังกล่าวจัดตั้งกระบวนการตรวจสอบโดยสมัครใจสำหรับโมเดลขั้นสูงก่อนเปิดตัว ดันแคน ซาเบียน หัวหน้าฝ่ายสื่อสารของสถาบันวิจัย Machine Intelligence Research Institute กล่าวว่า แรงจูงใจทางการเงินทำให้การประสานงานเป็นเรื่องยาก ซาเบียนกล่าวว่า ความก้าวหน้าแต่ละครั้งอาจสร้างเงินทุนได้หลายล้านหรือหลายพันล้านดอลลาร์ และเพิ่มอำนาจกับอิทธิพลของผู้สร้าง ซาเบียนกล่าวว่า OpenAI และ Anthropic เผชิญแรงกดดันให้พัฒนาอย่างต่อเนื่อง เพราะระบบใหม่แต่ละระบบช่วยสร้างระบบรุ่นต่อไปที่มีความสามารถมากขึ้น เขากล่าวว่า บริษัทอาจตามหลังคู่แข่งหากชะลอการพัฒนาโดยไม่มีข้อตกลงร่วมกัน ซาเบียนกล่าวว่า ความสามารถด้านปัญญากำลังเพิ่มขึ้นแบบทบต้น เพราะแต่ละระบบสามารถทำให้การฝึกและการนำระบบถัดไปไปใช้งานทำได้ง่ายขึ้น ในเดือนสิงหาคม OpenAI ระงับงาน Astra ภายในบริษัท เพราะยังขาดมาตรการป้องกันที่เข้มแข็งขึ้นต่อข้อกังวลด้านความมั่นคงปลอดภัยทางไซเบอร์ OpenAI และ Anthropic ผ่อนคลายพันธกรณีด้านความปลอดภัยในเดือนกุมภาพันธ์ จาเร็ด แคปแลน ประธานเจ้าหน้าที่ฝ่ายวิทยาศาสตร์ของ Anthropic ให้เหตุผลว่าการชะลอการพัฒนาเพียงฝ่ายเดียวมีเหตุผลน้อยลง ขณะที่คู่แข่งยังคงเดินหน้าต่อ เจคอบ ค็อกซอน อดีตวิศวกรของ Anthropic ประกาศลาออกในสัปดาห์นี้ ค็อกซอนอ้างความกังวลเกี่ยวกับความเสี่ยงที่การพัฒนา AI อย่างต่อเนื่องมีต่อมนุษยชาติ ค็อกซอนกล่าวว่า ผู้สร้าง AI เชื่อว่าเทคโนโลยีดังกล่าวอาจทำให้ทุกคนเสียชีวิตภายในสิ้นทศวรรษนี้ ซาเบียนกล่าวว่า นักวิจัยอาจทำอะไรได้ไม่มากนักจากการลาออก หากมีคนอื่นเข้ามาแทนที่ ซาเบียนกล่าวว่า นักวิจัยอาจหยุดพร้อมกันได้ หากมีจำนวนมากพอเห็นพ้องว่าทุกคนควรหยุด