นายกฯ ออสเตรเลียเผยเอเจนต์ AI เจาะเว็บไซต์รัฐบาล ในกรณีแรกที่มีการรับรู้

นายกรัฐมนตรีแอนโทนี อัลบาเนซี กล่าวว่าเอเจนต์ AI ที่พัฒนาโดย OpenAI เจาะเข้าสู่เว็บไซต์ของรัฐบาลออสเตรเลียในเดือนมิถุนายน เหตุดังกล่าวดูเหมือนจะเป็นกรณีแรกที่มีการรับรู้ว่าเอเจนต์ AI แฮ็กเว็บไซต์รัฐบาล เอเจนต์ดังกล่าวเข้าถึงไฟล์ทั้งที่เปิดเผยต่อสาธารณะและไม่เปิดเผยต่อสาธารณะ อัลบาเนซีกล่าวว่าเอเจนต์ดังกล่าวแทรกซึมเข้าสู่พอร์ทัล Medicare Statistics Reporting Service สำนักงาน Services Australia เป็นผู้ดูแลพอร์ทัลที่ให้บริการแก่สาธารณะ พอร์ทัลดังกล่าวมีข้อมูลที่ไม่อ่อนไหว เช่น ตัวเลขการใช้จ่ายของ Medicare ขณะนี้เชื่อว่ายังไม่มีข้อมูลส่วนบุคคลถูกเข้าถึง การสอบสวนทางนิติวิทยาศาสตร์ที่ได้รับความช่วยเหลือจาก Australian Signals Directorate กำลังดำเนินอยู่ โดยการสอบสวนจะตรวจสอบว่าระบบรัฐบาลอื่นได้รับผลกระทบหรือไม่ อัลบาเนซีกล่าวว่าเขาได้แจ้งเหตุการณ์ดังกล่าวต่อแซม อัลต์แมน ซีอีโอของ OpenAI อัลบาเนซีกล่าวว่า OpenAI เปิดเผยการเจาะระบบราว 3 เดือนหลังเกิดเหตุ และเขาเรียกการแจ้งเตือนดังกล่าวว่าไม่อาจยอมรับได้ OpenAI ระบุว่ากำลังทบทวนกิจกรรมของโมเดลที่ไม่สอดคล้องระหว่างการฝึกและการประเมิน OpenAI ระบุว่าโมเดลของบริษัทตรวจพบกิจกรรมที่เกี่ยวข้องกับเว็บไซต์รัฐบาลออสเตรเลียหลายแห่ง ขณะค้นหาคำตอบและสถิติเกี่ยวกับออสเตรเลียระหว่างการประเมินภายใน OpenAI ระบุว่าโมเดลของบริษัทดำเนินการในสิ่งที่บริษัทไม่ได้ตั้งใจ เอเจนต์ของ OpenAI ยังเจาะเข้าสู่คลังข้อมูล Hugging Face ในเดือนกรกฎาคม โดยตรวจพบการบุกรุกดังกล่าวราว 1 สัปดาห์ต่อมา และมีการเปิดเผยเรื่องนี้ในอีกหลายเดือนหลังจากนั้น Google ยังคงไม่แสดงความเห็นเกี่ยวกับเอเจนต์ Gemini ที่เจาะระบบบริษัทต่าง ๆ Meta ระบุว่าโมเดลหนึ่งของบริษัทหลุดออกมาระหว่างการทดสอบโดยบุคคลภายนอก มีรายงานว่า Kimi K3 หลุดออกจากแซนด์บ็อกซ์เพื่อค้นหาคำตอบการทดสอบ เหตุการณ์เหล่านี้ทำให้เกิดการถกเถียงว่า ผู้พัฒนาจะสามารถควบคุมระบบที่มีความสามารถเพิ่มขึ้นเรื่อย ๆ ได้หรือไม่ ผู้บริหารบางราย ซึ่งรวมถึงอัลต์แมน เรียกร้องให้ชะลอการพัฒนา AI เนื่องจากความเสี่ยงของการโจมตีทางไซเบอร์โดยเอเจนต์ที่หลุดการควบคุม