AI Agent ชั้นนำ Hugging Face ถูกแฮกอีกแล้ว ครั้งนี้เป็นฝีมือของ AI

แหล่งแจก AI Agent ชั้นนำ Hugging Face ถูกแฮกอีกแล้ว ครั้งนี้เป็นฝีมือของ AI

จากรายงานโดยเว็บไซต์ The Hacker News ได้กล่าวถึงการที่ทางบริษัท Hugging Face ซึ่งเป็นบริษัทผู้พัฒนาแพลตฟอร์มในชื่อเดียวกัน ออกมารายงานว่าตัวได้มีการตรวจพบความพยายามในการแฮกแพลตฟอร์ม ซึ่งจากการตรวจสอบนั้นพบว่าจุดเริ่มต้นนั้นอยู่ที่ส่วนของไปป์ไลน์ในการประมวลผลข้อมูล (Data Processing Pipeline) ด้วยการใช้งานชุดข้อมูล (Dataset) ที่เป็นอันตรายผ่านทางเส้นทางการเรียกใช้งานโค้ด (Code Execution) 2 วิธี คือ การใช้ตัวโหลดชุดข้อมูลจากระยะไกล (Remote Code Dataset Loader) และ การยิงเทมเพลต (Template Injection) ลงในส่วนของการตั้งค่า (Configuration) ชุดข้อมูล เพื่อรันโค้ดในส่วนของการประมวลผล (Processing Worker) ซึ่งส่งผลให้แฮกเกอร์นั้นสามารถเข้าถึงแพลตฟอร์มได้ในระดับโหนด (Node-Level Access) แล้วจึงเข้าทำการเก็บรหัสสำหรับการเข้าใช้งานระบบคลาวด์และคลัสเตอร์ (Cluster)

ทางบริษัทนั้นพบว่าในการโจมตีครั้งนี้นั้นมีโมเดล AI ประเภทโมเดลภาษาขนาดใหญ่ (LLM หรือ Large Language Model) ที่ไม่ทราบชื่อ สั่งการให้ตัวผู้ช่วย AI ที่สามารถทำงานได้ด้วยตนเอง (Autonomous AI Agent) จำนวนมาก ทำการปฏิบัติการแบบแยกย่อยผ่านทางสภาวะแวดล้อมจำลอง (Sanbox) แบบอายุสั้นจำนวนนับพัน ทั้งยังมีการตั้งระบบควบคุมสั่งการ (C2 หรือ Command and Control) ไว้บนบริการแบบสาธารณะ

หลังจากที่ทางบริษัทได้ตรวจพบการกระทำดังกล่าว ก็ได้ทำการเข้ายับยั้งอย่างรวดเร็ว ด้วยวิธีการดังต่อไปนี้

ปิดช่องทางที่แฮกเกอร์ใช้ในการเข้าถึงตัวคลัสเตอร์ที่ได้รับผลกระทบทั้งหมด พร้อมทั้งสร้างโหนดขึ้นมาใหม่แทนที่โหนดที่ถูกแฮก

ยกเลิกและเปลี่ยน (Rotate) รหัส (Credential) และ โทเคน (Token) ทั้งหมด รวมทั้งใช้มาตรการป้องกันเพิ่มเติมด้วยการเปลี่ยนรหัส Secret ทั้งหมด

บังคับใช้ระบบป้องกัน (Guardrail) เพิ่มเติม รวมทั้งใช้มาตรการควบคุมการเข้าถึงระบบควบคุมคลัสเตอร์ให้เข้มงวดกว่าเดิม

ปรับปรุงระบบตรวจจับและแจ้งเตือน โดยการแจ้งเตือนนั้นจะเป็นการแจ้งที่ไวในระดับนาที ทำงานตลอด 24 ชั่วโมง ทั้ง 7 วัน

นอกจากนั้นทางบริษัทยังได้ทำการขอให้ผู้ใช้งานทำงานเปลี่ยนโทเคนสำหรับใช้งานการเข้าถึงระบบ (Access Token) รวมทั้งตรวจสอบกิจกรรมล่าสุดที่เกิดขึ้นบนบัญชีของผู้ใช้งานว่ามีสิ่งที่ผิดปกติหรือไม่

ทางบริษัทยังได้เปิดเผยสิ่งที่น่าขบขันอย่างหนึ่งคือ ในด้านการของตรวจสอบหลักฐานหลังการถูกโจมตี (Digital Forensic) นั้น ทางบริษัทต้องหันไปใช้งานโมเดล AI ของจีนอย่าง GLM 5.2 ของ Z.ai แทนโมเดล AI ระดับชั้นนำของทางตะวันตก เนื่องจากโมเดลของทางตะวันตกนั้นไม่สามารถแยกแยะได้ระหว่างความพยายามในการใช้ AI เพื่อโจมตี และการใช้งาน AI เพื่อป้องกันการถูกโจมตีระบบ (เช่นการวิเคราะห์ หรือ จำลองสถานการณ์) ทำให้ระบบป้องกัน หรือ Guardrail ปฏิเสธคำสั่งต่าง ๆ ที่เกี่ยวข้องไปจนหมดสิ้น