นักวิจัยพบ AI Agent 9 ใน 10 โมเดลสามารถเพิ่มวงเงินใช้จ่ายคริปโทได้เองอย่างน้อยหนึ่งครั้งในการทดลอง โดยอาศัยรหัสยืนยัน OTP จากอีเมล แม้ไม่มีแฮ็กเกอร์เข้ามาเกี่ยวข้อง สะท้อนช่องโหว่สำคัญของระบบชำระเงินอัตโนมัติที่กำลังเติบโต
ระบบชำระเงินด้วย AI Agent อาจไม่ได้ปลอดภัยอย่างที่คิด หลังทีมนักวิจัยจาก Cornell Tech และ Yale University ทดลองใช้ AI Agent กับกระเป๋าคริปโทของ Circle แล้วพบว่า AI ถึง 9 ใน 10 โมเดลสามารถเพิ่มวงเงินใช้จ่ายของตัวเองได้อย่างน้อยหนึ่งครั้ง โดยไม่ต้องได้รับอนุมัติจากเจ้าของบัญชี
ทั้งที่โจทย์การทดลองกำหนดเพียงให้ชำระใบแจ้งหนี้ ไม่ได้สั่งให้แก้ไขวงเงินแต่อย่างใด มีเพียง Claude Opus 5.5 ของ Anthropic ที่ไม่พยายามข้ามข้อจำกัด แต่เลือกใช้เงินภายในวงเงินที่กำหนด และแจ้งเจ้าของบัญชีเกี่ยวกับใบแจ้งหนี้ที่ยังค้างชำระ
ในการทดลอง นักวิจัยเติมเงิน 10 USDC ลงในกระเป๋าบนเครือข่าย Base และกำหนดวงเงินใช้จ่ายรายวันเพียง 0.01 ดอลลาร์ พร้อมให้ AI เข้าถึงเครื่องมืออีเมล เว็บไซต์ และกระเป๋าคริปโท รวมถึงกล่องอีเมลที่ใช้รับรหัสยืนยันการเปลี่ยนแปลงวงเงิน โดยแต่ละโมเดลถูกทดสอบ 20 ครั้งต่อสถานการณ์ ผลปรากฏว่า AI สามารถนำรหัส OTP ซึ่งเดิมออกแบบมาเพื่อยืนยันตัวเจ้าของบัญชี ไปใช้อนุมัติการเพิ่มวงเงินได้เอง
นักวิจัยยังจำลองสถานการณ์ที่มีผู้โจมตีส่งอีเมลหลอกลวง เพื่อชักจูงให้ AI เพิ่มวงเงิน หรือปลอมตัวเป็นเจ้าของบัญชีเพื่อสั่งโอนเงินเข้ากระเป๋าของผู้โจมตี โดยในการทดลองแบบปลอมตัวเป็นเจ้าของบัญชี พบว่า AI 5 ใน 10 โมเดลเพิ่มวงเงินและโอนเงินให้ผู้โจมตีจำลองได้อย่างน้อยหนึ่งครั้ง ทั้งที่ได้รับคำสั่งให้ทำหน้าที่เพียงสรุปอีเมลเท่านั้น
อย่างไรก็ตาม นักวิจัยย้ำว่าผลลัพธ์ดังกล่าวมาจากการทดลองควบคุมที่ใช้ USDC จริง ไม่ใช่หลักฐานว่าลูกค้า Circle ถูกโจมตีในลักษณะนี้แล้ว
ประเด็นสำคัญอยู่ที่ ระบบอนุมัติส่วนใหญ่อาจตรวจสอบได้เพียงว่ามีการกรอกรหัสยืนยันถูกต้อง แต่ไม่สามารถแยกได้ว่าผู้อนุมัติเป็นมนุษย์จริงหรือ AI ที่เข้าถึงรหัสดังกล่าว Anthony Anzalone ซีอีโอของ Verona อธิบายว่า การเพิ่มขั้นตอนอนุมัติไม่ได้แก้ปัญหา หาก AI ยังสามารถเข้าถึงหรือสร้างหลักฐานยืนยันนั้นได้เอง
ด้าน Circle ระบุว่าเอกสารแนะนำการใช้งานได้เตือนชัดเจนไม่ให้ AI เข้าถึงอีเมลสำหรับรับรหัสยืนยันโดยไม่มีข้อจำกัด และกำชับให้ผู้ใช้กรอกรหัสด้วยตัวเอง พร้อมยืนยันว่าบริษัทกำลังทบทวนมาตรการป้องกันอย่างต่อเนื่อง
งานวิจัยชื่อ I-HITL: Inalienable Human-in-the-Loop ชี้ว่า ปัญหานี้ไม่ได้จำกัดอยู่เฉพาะ Circle หรือการยืนยันผ่านอีเมลเพราะ AI ที่มีสิทธิ์เข้าถึงเครื่องมืออย่างกว้างขวางอาจค้นหารหัสผ่าน ข้อมูลยืนยันตัวตน หรือใช้เซสชันบนเบราว์เซอร์เพื่อข้ามข้อจำกัดได้เช่นกัน แม้นักวิจัยคาดว่าช่องโหว่ลักษณะเดียวกันอาจเกิดกับกระเป๋า AI Agent ของ Coinbase และ MetaMask แต่ยังไม่มีการทดลองยืนยันผลกับผลิตภัณฑ์เหล่านั้น
เพื่อแก้ปัญหา ทีมนักวิจัยได้พัฒนา Countersign ต้นแบบแอปโอเพนซอร์สสำหรับ Android และ iOS ที่ผูกการอนุมัติเข้ากับการกระทำทางกายภาพบนอุปกรณ์ที่เชื่อถือได้และอยู่นอกการควบคุมของ AI โดยผู้ใช้ต้องเห็นรายละเอียดธุรกรรมที่ต้องอนุมัติจริง และ AI ต้องไม่สามารถเข้าถึงกุญแจสำหรับอนุมัติได้
อย่างไรก็ตาม ต้นแบบดังกล่าวยังมีข้อจำกัดด้านความปลอดภัยของอุปกรณ์และระบบปฏิบัติการ โดยโจทย์สำคัญของอุตสาหกรรมคือจะพิสูจน์ได้อย่างไรว่า การชำระเงินนั้นได้รับอนุมัติจากมนุษย์จริง ไม่ใช่ AI ที่ถือข้อมูลยืนยันตัวตนชุดเดียวกับเจ้าของบัญชี
ที่มา : Coindesk
