ตัวแทน AI ถูกหลอกด้วยความทรงจำปลอม, ทำให้การโจรกรรมคริปโตเป็นไปได้

การศึกษาวิจัยใหม่เผยถึงช่องโหว่ด้านความปลอดภัยที่สำคัญในเว็บ 3 ตัวแทนที่ขับเคลื่อนด้วย AI ซึ่งอนุญาตให้ผู้โจมตีใช้ความทรงจำปลอมเพื่อดำเนินการโอน cryptocurrency โดยไม่ได้รับอนุญาต

นักวิจัยจากมหาวิทยาลัย Princeton และมูลนิธิ Sentient ได้ค้นพบว่า AI agents ซึ่งถูกออกแบบมาเพื่อจัดการงานที่เกี่ยวข้องกับ blockchain เช่น การซื้อขาย crypto และการจัดการทรัพย์สินดิจิทัล นั้นสามารถถูกโจมตีด้วยเทคนิคที่เรียกว่าการจัดการบริบท (context manipulation) ได้

การโจมตีนี้ทำงานโดยมุ่งเป้าที่ระบบหน่วยความจำของแพลตฟอร์มเช่น ElizaOS ซึ่งสร้าง AI agents สำหรับแอปพลิเคชันที่ไม่ใช่ส่วนกลาง ระบบหน่วยความจำของเหล่า agents นี้จะเก็บการสนทนาที่ผ่านมาเพื่อใช้เป็นแนวทางในการเลือกตัวเลือกในอนาคต

นักวิจัยได้แสดงให้เห็นว่าผู้โจมตีสามารถฝังคำสั่งที่ทำให้สับสนลงในระบบหน่วยความจำ ทำให้ AI ส่งเงินจากกระเป๋าเงินที่ตั้งใจส่งไปยังกระเป๋าเงินที่ผู้โจมตีควบคุม น่าตกใจที่สุดคือเหล่าความทรงจำปลอมนี้สามารถเดินทางระหว่างแพลตฟอร์มได้

ตัวอย่างเช่น ตัวแทนที่ถูกคุมครองใน Discord อาจทำการโอนย้ายที่ไม่ถูกต้องผ่าน X โดยไม่รู้ตัวว่ามีอะไรผิดพลาด

สิ่งที่ทำให้สถานการณ์นี้เป็นอันตรายเป็นพิเศษคือ มาตรการป้องกันมาตรฐานไม่สามารถหยุดการโจมตีประเภทนี้ได้ การทำให้ความจำปลอมเป็นคำสั่งที่ถูกต้องทำให้มาตรการรักษาความปลอดภัยที่อาศัยผลตอบรับพื้นฐานไม่มีประสิทธิภาพต่อการโจมตีประเภทนี้

ทุกการทำธุรกรรมบนบล็อกเชนจะกลายเป็นถาวร ดังนั้นไม่มีความเป็นไปได้ที่จะคืนคืนเงินที่ถูกโจรกรรมเอาไปได้ ปัญหายิ่งแย่ขึ้นเนื่องจากเอเจนต์ AI บางตัวจัดเก็บหน่วยความจำข้ามผู้ใช้หลายคน ดังนั้นการละเมิดความปลอดภัยเพียงครั้งเดียวสามารถส่งผลกระทบต่อผู้ใช้หลายคนได้

ทีมวิจัยทดสอบวิธีการหลายวิธีเพื่อป้องกันสิ่งนี้ รวมถึงการปรับการฝึกฝน AI และต้องการการอนุมัติด้วยตนเองสำหรับการทำธุรกรรม แม้ว่าวิธีการเหล่านี้จะมอบความหวังบ้าง แต่พวกเขามาพร้อมกับค่าใช้จ่ายของการชะลอความเร็วในการทำงานอัตโนมัติ

ปัญหานี้ไม่ได้จำกัดเฉพาะที่สกุลเงินดิจิตอลเท่านั้น ช่องโหว่นี้สามารถส่งผลกระทบต่อผู้ช่วย AI ทั่วไป ทำให้เกิดการรั่วไหลของข้อมูลหรือการกระทำที่เป็นอันตรายถ้าผู้โจมตีแก้ไขหน่วยความจำของพวกเขา

ช่องโหว่นี้น่าจะทำให้รู้สึกตื่นตระหนกเมื่อพิจารณาการพบเจอล่าสุดใน การสำรวจ ที่ 84% ของผู้นำด้าน IT ไว้วางใจในตัวแทน AI เท่าเดียวหรือมากกว่าพนักงานมนุษย์ และมีการคาดหวังว่าระบบเหล่านี้จะส่งมอบผลลัพธ์ทางธุรกิจภายใน 12 ถึง 18 เดือน

เพื่อจัดการกับปัญหานี้ นักวิจัยได้เผยแพร่เครื่องมือชื่อว่า CrAIBench เพื่อช่วยให้นักพัฒนาสามารถทดสอบระบบของพวกเขาและสร้างการป้องกันที่แข็งแกร่งขึ้น จนกระทั่งเวลานั้น ผู้เชี่ยวชาญเตือนผู้ใช้ให้ระมัดระวังเมื่อไว้วางใจให้ตัวแทน AI ตัดสินใจในเรื่องการเงิน