วิเคราะห์: การจำกัดวงเงินอาจไม่ป้องกันข้อผิดพลาดในการชำระเงินของ AI agent ที่สร้างความเสียหายสูง

AI agent ซื้อบริการเพื่อทำงานให้สำเร็จอยู่แล้ว เช่น ค้นหาเว็บและตรวจสอบว่ามีที่นั่งสายการบินที่แลกด้วยคะแนนสะสมได้หรือไม่ รายงาน State of AI Agent Payments 2026 ของ BeInCrypto บันทึกการชำระเงิน 6.4 ล้านรายการในช่วง 35 วันผ่านโปรโตคอลชำระเงินสำหรับ agent ชื่อ x402 บน Base และ Solana การชำระเงินที่มีมูลค่าต่ำกว่า 1 เซนต์คิดเป็นมากกว่า 90% ของธุรกรรมทั้งหมด บันทึกการชำระเงินบ่งชี้ว่าธุรกิจกำลังอนุญาตให้ AI agent ใช้จ่ายเงินมากขึ้น

agent ส่วนใหญ่มีวงเงินการใช้จ่ายที่มนุษย์กำหนดไว้ อย่างไรก็ตาม agent อาจก่อความผิดพลาดร้ายแรงและมีค่าใช้จ่ายสูงได้โดยไม่เกินวงเงินดังกล่าว งานวิจัยพบว่าจากผลิตภัณฑ์และเวิร์กโฟลว์ 19 รายการที่ตรวจสอบ มี 14 รายการที่สามารถทำงานภายใต้สิทธิ์ซึ่งมนุษย์กำหนดไว้ ธุรกิจสามารถอนุมัติงบประมาณล่วงหน้า เพื่อให้ซอฟต์แวร์ซื้อบริการได้โดยไม่ต้องขออนุมัติทุกธุรกรรม มาตรการควบคุมที่มีการบันทึกไว้เหล่านี้เป็นแนวทางปฏิบัติได้จริงในการมอบหมายงานพร้อมจำกัดการใช้จ่าย แต่งานวิจัยไม่ได้ยืนยันว่าทุกระบบจะบังคับใช้มาตรการดังกล่าวระหว่างการโจมตี

Zoomex ซึ่งร่วมจัดทำรายงาน ระบุว่า agent ที่มีข้อมูลรับรองถูกต้องอาจดำเนินธุรกรรมที่ถูกต้องตามกฎหมายได้ ขณะทำตามคำสั่งที่เป็นอันตราย ข้อมูลที่ถูกบิดเบือน หรือเป้าหมายที่เข้าใจผิด Zoomex เตือนว่าแม้โครงสร้างพื้นฐานการชำระเงินจะทำงานได้ตามปกติ ก็ยังอาจส่งเงินไปยังปลายทางที่ไม่ได้ตั้งใจ Zoomex ระบุว่าประเด็นสำคัญอยู่ที่ความแตกต่างระหว่างสิทธิ์ทางเทคนิคของ agent กับเจตนาที่แท้จริงของเจ้าของ การบังคับใช้วงเงินอย่างถูกต้องไม่ได้ยืนยันว่าเจ้าของต้องการให้ชำระเงินรายการใดรายการหนึ่งหรือไม่

ในเดือนพฤษภาคม 2026 ผู้โจมตีเผยแพร่ข้อความรหัสมอร์ส ซึ่ง Grok แปลเป็นคำตอบสาธารณะที่แท็ก Bankr ซึ่งเป็นบริการทำธุรกรรมคริปโต Bankr ตีความคำตอบของ Grok ว่าเป็นคำสั่งชำระเงิน และโอนโทเคนมูลค่า 175,000 ดอลลาร์ ต่อมา Bankr รายงานว่าได้รับเงินคืนแล้ว 80% ในอีกเหตุการณ์หนึ่ง ผู้โจมตีเข้าถึงแดชบอร์ดของ AIXBT และใส่คำสั่งที่เป็นอันตรายไว้ในคิว ธุรกรรมที่เกิดขึ้นทำให้มีการโอน ETH มูลค่า 106,200 ดอลลาร์ไปยังผู้โจมตี เหตุการณ์ 2 กรณีที่เลือกมามีมูลค่ารวม 281,200 ดอลลาร์ก่อนการเรียกคืน

งบประมาณการใช้จ่ายสามารถจำกัดจำนวนเงินที่มีความเสี่ยงได้ การจำกัดการโอนเงินให้ส่งได้เฉพาะผู้รับที่ได้รับอนุมัติช่วยควบคุมปลายทางที่ agent สามารถส่งเงินไปได้ การติดตามตรวจสอบต้องครอบคลุมการชำระเงินจำนวนเล็กน้อยซ้ำๆ ด้วย เพราะยอดเงินเหล่านั้นอาจสะสมโดยไม่มีใครสังเกตเห็น Zoomex ระบุว่าการได้รับอนุญาตให้ซื้อข้อมูลไม่ควรหมายความโดยอัตโนมัติว่าได้รับอนุญาตให้โอนเงินทุนของบริษัทด้วย

การเชื่อมต่อ MCP ของ Zoomex ที่เปิดเผยไว้ช่วยให้ผู้ช่วย AI จัดเตรียมคำสั่งซื้อขายได้ แต่กำหนดให้ลูกค้ายืนยันทุกคำสั่งก่อนส่ง บันทึกคำสั่งซื้อขายเชื่อมโยงคำขอแต่ละรายการกับธุรกรรมที่เกิดขึ้น งานวิจัยบันทึกกระบวนการนี้ไว้ แต่ไม่ได้ทดสอบกระบวนการดังกล่าวกับการโจมตี รายงานทบทวนของ FCA ในเดือนตุลาคมระบุว่า การตรวจสอบโดยมนุษย์อาจเสื่อมสภาพจนกลายเป็นการอนุมัติตามกิจวัตรโดยไม่มีการตรวจสอบอย่างมีความหมาย รายงานทบทวนของ FCA เน้นย้ำถึงมาตรการควบคุมทางเทคนิคและการติดตามตรวจสอบอย่างต่อเนื่อง

ธุรกิจสามารถเริ่มจากการมอบหมายงานที่กำหนดไว้อย่างจำกัด และขยายอำนาจของ agent เมื่อมีหลักฐานแสดงว่า agent ทำงานตามที่ตั้งใจ Zoomex เรียกร้องให้ธุรกิจมอบอำนาจเท่าที่จำเป็นสำหรับแต่ละงาน และทำให้สามารถเพิกถอนอำนาจนั้นได้โดยง่าย