พบวิธีการโจมตีแบบใหม่ Ghostcommit สามารถหลอกผู้ช่วย AI ด้วยการซ่อน Prompt ในรูปภาพ

พบวิธีการโจมตีแบบใหม่ Ghostcommit สามารถหลอกผู้ช่วย AI ด้วยการซ่อน Prompt ในรูปภาพ

จากรายงานโดยเว็บไซต์อย่างเป็นทางการของผู้พัฒนาเครื่องมือต่อต้านมัลแวร์ชื่อดัง Malwarebytes ได้กล่าวถึงการที่ทีมวิจัยจาก ASSET Research Group ได้ค้นพบกลยุทธ์ใหม่ในการแอบฝังคำสั่ง (instruction) ไว้ภายในไฟล์รูปภาพ (Image File) เพื่อสั่งการให้ตัว AI ประเภทช่วยเหลือในการเขียนโปรแกรม (Coding Agent) ทำตามสิ่งที่ต้องการ เช่น อ่าน และ ส่งข้อมูลอ่อนไหว (Sensitive Information) ไปให้แฮกเกอร์ ซึ่งในการกระทำการดังกล่าวนั้นจะต้องใช้ไฟล์ 2 ประเภท คือ ไฟล์ตั้งค่า (Configuration File) โดยในการทดลองนี้จะใช้ไฟล์ชื่อว่า AGENTS.md และไฟล์รูปภาพสกุล .PNG ที่มีการแอบซ่อนคำสั่งที่สั่งการให้อ่านและขโมยข้อมูลอ่อนไหว

โดยจะเริ่มต้นจากการให้ตัว AI อ่านไฟล์ตั้งค่า ซึ่งภายในนั้นไม่ว่าจะตรวจสอบด้วยคน หรือ ตัว AI ก็ไม่พบสิ่งผิดปกติอะไรอยู่ภายใน และโดยทั่วไปนั้นผู้ใช้งานที่เป็นมนุษย์ก็มักจะไม่ทำการตรวจสอบไฟล์รูปภาพในเชิงลึก ซึ่งหลังจากที่ให้ตัว AI ทำการอ่านไฟล์ตั้งค่าดังกล่าวก็จะพบการชี้ (Referred) ให้ตัว AI ไปอ่านไฟล์รูปภาพที่แนบมาด้วยกันอีกที ซึ่งเมื่อ AI อ่านไฟล์คำสั่งของรูปภาพดังกล่าวและทำตามคำสั่งที่แฮกเกอร์ฝังเอาไว้ภายในทันที โดยวิธีการนี้ทางทีมวิจัยตั้งชื่อว่า Ghostcommit โดยในปัจจุบันวิธีการนี้ยังคงอยู่ในขั้นตอนการทดสอบความคิด หรือ Proof of Concept เท่านั้น ยังไม่มีการใช้งานจริงโดยแฮกเกอร์ตัวจริงแต่อย่างใด ซึ่งในการทดสอบนั้น ทางทีมวิจัยระบุว่า วิธีการดังกล่าวส่งผลไม่เหมือนกันในตัว AI แต่ละโมเดล โดย Cursor และ Antigravity นั้นจะทำตามขั้นตอนที่ระบุไว้ในไฟล์ PNG ทุกประการ แต่ตัว Claude Code จะอ่านคำสั่งที่ถูกฝังไว้อยู่เช่นกันแต่ปฏิเสธที่จะทำตาม เป็นต้น ดังนั้นวิธีการดังกล่าวจึงไม่ใช่วิธีการที่สมบูรณ์นัก เนื่องจากต้องอยู่ภายใต้เงื่อนไขถึงจะทำงานได้