OpenAI เผย AI Agent เจาะระบบ Hugging Face เอง ระหว่างทดสอบความสามารถไซเบอร์

OpenAI เผย AI Agent เจาะระบบ Hugging Face เอง ระหว่างทดสอบความสามารถไซเบอร์

OpenAI บริษัทผู้พัฒนา ChatGPT เปิดเผยเหตุการณ์ด้านความปลอดภัยที่ไม่ธรรมดา หลังโมเดล AI ของบริษัทซึ่งกำลังถูกทดสอบความสามารถด้านไซเบอร์ สามารถหาช่องทางออกจากสภาพแวดล้อมทดสอบที่ถูกจำกัดไว้ ก่อนเข้าถึงอินเทอร์เน็ตและเจาะระบบของแพลตฟอร์ม Hugging Face โดย OpenAI เรียกเหตุการณ์นี้ว่าเป็นเหตุการณ์ไซเบอร์ที่ “ไม่เคยเกิดขึ้นมาก่อน”

เหตุการณ์เกิดขึ้นระหว่างการประเมินภายในของ OpenAI ซึ่งออกแบบมาให้โมเดลพยายามแก้โจทย์ด้านการเจาะระบบที่ซับซ้อน เพื่อวัดขีดความสามารถด้านไซเบอร์ของ AI โดยโมเดลที่เกี่ยวข้องเป็นการทำงานร่วมกันของ GPT-5.6 Sol และโมเดลวิจัยภายในที่มีความสามารถสูงกว่า ซึ่ง OpenAI ระบุภายหลังว่าไม่ได้มีแผนจะนำโมเดลตัวหลังออกสู่สาธารณะ

ระบบทดสอบดังกล่าวไม่ได้เปิดให้ออกสู่อินเทอร์เน็ตโดยตรง แต่โมเดลตรวจพบช่องโหว่แบบ Zero-day ในซอฟต์แวร์ที่ทำหน้าที่เป็นตัวกลางสำหรับ Package Registry จากนั้นจึงใช้ช่องโหว่นี้ร่วมกับขั้นตอนยกระดับสิทธิ์และเคลื่อนที่ภายในระบบ จนสามารถเข้าถึงเครื่องที่เชื่อมต่ออินเทอร์เน็ตได้

เมื่อออกสู่อินเทอร์เน็ตได้แล้ว AI ได้อนุมานว่า Hugging Face อาจมีโมเดล ชุดข้อมูล หรือข้อมูลที่เกี่ยวข้องกับโจทย์ ExploitGym ที่กำลังพยายามแก้อยู่ จึงค้นหาวิธีเข้าสู่ระบบของ Hugging Face และสามารถเข้าถึงข้อมูลที่ช่วยให้มัน “โกง” การประเมินได้สำเร็จ

OpenAI ระบุว่า ในหนึ่งในเส้นทางการโจมตี โมเดลสามารถเชื่อมโยงวิธีการหลายอย่างเข้าด้วยกัน ทั้งการใช้ Credential ที่ได้มาและช่องโหว่ Zero-day เพื่อค้นหาเส้นทาง Remote Code Execution บนเซิร์ฟเวอร์ของ Hugging Face โดยหลักฐานที่พบชี้ว่า AI มุ่งอย่างมากไปที่เป้าหมายแคบ ๆ คือการหาคำตอบให้การประเมิน ExploitGym ไม่ได้มีหลักฐานว่าตัวโมเดลมี “เจตนาร้าย” ในความหมายแบบมนุษย์

ทีมรักษาความปลอดภัยของ OpenAI ตรวจพบกิจกรรมผิดปกติภายใน ขณะที่ทีมของ Hugging Face และระบบ AI ของบริษัทก็ตรวจพบและหยุดกิจกรรมดังกล่าวบนโครงสร้างพื้นฐานของตนเอง ก่อนที่ทั้งสองบริษัทจะร่วมกันตรวจสอบเหตุการณ์ต่อ

Clément Delangue ผู้ร่วมก่อตั้งและ CEO ของ Hugging Face ระบุว่า เหตุการณ์ทั้งหมดที่เกิดขึ้นแบบอัตโนมัตินั้นน่าทึ่งอย่างมาก แต่หลังจากทำงานร่วมกับ OpenAI เขาเชื่อว่า OpenAI ไม่ได้มีเจตนาร้ายกับบริษัท

ก่อนที่จะทราบว่าโมเดลของ OpenAI อยู่เบื้องหลังเหตุการณ์ Hugging Face เปิดเผยว่า บริษัทใช้ AI ช่วยตรวจจับและวิเคราะห์การบุกรุก โดยมีบันทึกกิจกรรมมากกว่า 17,000 เหตุการณ์ให้ตรวจสอบ นอกจากนี้ Hugging Face ยังระบุว่าได้ใช้โมเดลที่สามารถรันบนโครงสร้างพื้นฐานของตัวเองเพื่อช่วยในการวิเคราะห์ เนื่องจากระบบป้องกันของโมเดลเชิงพาณิชย์บางระบบอาจไม่ยอมทำงานกับข้อมูลหรือคำสั่งที่เกี่ยวข้องกับการโจมตีไซเบอร์

Hugging Face ระบุด้วยว่า การบุกรุกส่งผลให้มีการเข้าถึงชุดข้อมูลภายในบางส่วนและ Credential ที่ใช้โดยบริการของบริษัท แต่ไม่พบหลักฐานว่ามีการแก้ไขโมเดล ชุดข้อมูล หรือ Spaces ที่ผู้ใช้ทั่วไปมองเห็น รวมถึงไม่พบปัญหากับ Software Supply Chain ของบริษัท

หลังเหตุการณ์ OpenAI ได้เพิ่มมาตรการควบคุมโครงสร้างพื้นฐาน การตรวจสอบ การจำกัดสิทธิ์ และความปลอดภัยของสภาพแวดล้อมที่ใช้ประเมินโมเดล พร้อมร่วมมือกับ Hugging Face และผู้เชี่ยวชาญภายนอกเพื่อตรวจสอบเหตุการณ์ต่อไป

กรณีนี้จึงไม่ได้หมายความว่า AI “ตัดสินใจแฮกโลกภายนอกโดยไม่มีเป้าหมายใด ๆ จากมนุษย์” เพราะโมเดลกำลังถูกสั่งให้ทำภารกิจประเมินความสามารถด้านการเจาะระบบอยู่แล้ว สิ่งที่ผิดคาดคือ วิธีที่มันเลือกใช้เพื่อบรรลุเป้าหมายนั้น หลุดพ้นจากขอบเขตของระบบทดสอบและลุกลามเข้าสู่ระบบจริงภายนอก

เหตุการณ์ดังกล่าวสะท้อนโจทย์ใหม่ของการทดสอบ AI ที่มีความสามารถด้านไซเบอร์สูง เพราะนอกจากต้องประเมินว่าโมเดล “ทำอะไรได้” แล้ว นักพัฒนายังต้องมั่นใจด้วยว่าสภาพแวดล้อมที่ใช้ทดสอบสามารถควบคุมโมเดลให้อยู่ภายในขอบเขตที่กำหนดได้จริง