อีเมล Phishing ใหม่มีการซ่อนกล หลอกให้ AI Assistant ทำตามที่กำหนดไว้ได้

จากรายงานโดยเว็บไซต์อย่างเป็นทางการของบริษัทผู้พัฒนาเครื่องมือต่อต้านมัลแวร์ชื่อดัง Malwarebytes ได้กล่าวถึงกลยุทธ์การทำการหลอกลวงแบบ Email Phishing รูปแบบด้วยวิธีการซ่อนคำสั่ง (Prompt) ไว้ในอีเมล เพื่อโจมตีเหยื่อด้วยการยิงคำสั่ง (Prompt Injection) ทางทีมวิจัยจาก Barracuda กล่าวไว้ว่า การซ่อนคำสั่งไว้ภายในอีเมลนั้น สามารถส่งผลต่อการทำงานของ AI Assistant ในยามที่เหยื่อสั่งให้ทำการจัดการสรุปกล่องข้อความ (Inbox Summarization) ได้หลากรูปแบบ เช่น

การใช้คำสั่งหลอกให้ตัว AI Assistant ทำการเปลี่ยนค่าของตัวอีเมล Phishing เป็นอีเมลที่ไม่มีอันตราย (Legitimate) หรือ อีเมลด่วน (Urgent) เพื่อให้เหยื่อไม่สงสัยในตัวอีเมลแล้วเปิดขึ้นมาเพื่อเข้าขั้นตอนการหลอกลวงโดยแฮกเกอร์

การสั่งให้ AI ทำการเปลี่ยนข้อมูลรายละเอียดการจ่ายเงินให้คู่ค้า (Vendor Payment Detail) เพื่อหลอกให้เหยื่อโอนเงินผิด ไปโอนเข้าบัญชีของแฮกเกอร์แทน

ใช้คำสั่งเพื่อให้ตัว AI แนะนำให้เหยื่อเข้าอ่านและจัดการอีเมล Phishing ดังกล่าว

ซึ่งการแทรกคำสั่งนั้นก็ไม่ใช่การแทรกลงบนอีเมลแบบโต้ง ๆ แต่เป็นการสอดแทรกแบบไม่ให้เหยื่อได้รับรู้ เช่น การแทรกไว้ภายในโค้ด HTML, การใช้รูปแบบของตัวอักษร (Styling) เพื่อให้ตัวคำสั่งนั้นล่องหนได้, การทำเป็นรูปแบบคอนเทนต์เข้ารหัส (Encoded Content), และตั้งค่าความกว้างของตัวอักษรให้เป็น 0 (Zero-Width) เป็นต้น

แต่ถึงแม้การตรวจสอบได้ยาก และคำสั่งเหล่านี้มักจะส่งผลให้ตัว AI Assistant สามารถทำงานได้ตามที่สั่งก็ตาม แต่ก็ไม่ได้หมายความว่าผู้อ่านจะต้องทำการเลิกใช้งานเครื่องมือเหล่านี้อย่างสิ้นเชิงแต่อย่างใด เพียงแต่ผู้อ่านต้องเพิ่มความระมัดระวังให้มากขึ้น เช่น อย่าเชื่อคำแนะนำของ AI เพียงอย่างเดียวแต่ให้ตรวจสอบข้อความต้นฉบับก่อน, ตรวจสอบเรื่องข้อมูลการจ่ายเงินกับคู่ค้าในช่องทางอื่นเพื่อความถูกต้อง, และให้สิทธิ์การจัดการของตัว AI Assistant ให้จำกัดที่สุด เป็นต้น