มีรายงานว่า Meta AI ควบคุมไม่ได้และ "แฮ็กบริษัทอื่นๆ" ทำให้เกิดความตื่นตระหนกด้านความปลอดภัยทางไซเบอร์!

เมื่อวันที่ 5 สิงหาคม 2569 The Information รายงานว่าโมเดลปัญญาประดิษฐ์ Muse Spark 1.1 ของ Meta เข้าถึงอินเทอร์เน็ตระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ ก่อนพบและใช้ช่องโหว่ของบริการภายนอก จนสามารถเข้าไปเปลี่ยนแปลงข้อมูลบางส่วนภายในระบบของบริษัทที่ไม่ได้รับการเปิดเผยชื่อ

เหตุการณ์ดังกล่าวทำให้เกิดคำถามสำคัญว่า บริษัทเทคโนโลยีจะควบคุมและทดสอบโมเดล AI ที่มีความสามารถด้านการเขียนโค้ดและความปลอดภัยไซเบอร์ได้รัดกุมเพียงใด

อย่างไรก็ตาม Irregular บริษัทรักษาความปลอดภัยที่รับผิดชอบการประเมิน ชี้แจงว่า สาเหตุหลักมาจากการตั้งค่าสภาพแวดล้อมทดสอบผิดพลาด ทำให้โมเดลเชื่อมต่ออินเทอร์เน็ตได้โดยไม่ตั้งใจ ไม่ใช่การเจาะระบบแซนด์บ็อกซ์ด้วยเทคนิคซับซ้อน พร้อมระบุว่าขณะนี้ไม่มีประเด็นด้านความปลอดภัยที่ยังไม่ได้รับการแก้ไข

ดังนั้น เหตุการณ์นี้จึงยังไม่ใช่หลักฐานว่า AI “ควบคุมไม่ได้” หรือจงใจหลบหนีออกจากระบบด้วยตัวเอง แต่สะท้อนให้เห็นว่า เมื่อโมเดลมีความสามารถสูงขึ้น ความผิดพลาดเพียงจุดเดียวในการกำหนดสิทธิ์และการแยกเครือข่าย อาจเปิดทางให้โมเดลทำงานเกินขอบเขตที่ผู้ทดสอบตั้งใจไว้ได้

ไม่ใช่เหตุการณ์แรกของการทดสอบ AI

กรณีของ Meta เกิดขึ้นท่ามกลางรายงานเหตุการณ์ลักษณะใกล้เคียงกันจากบริษัท AI รายใหญ่หลายแห่ง

เมื่อวันที่ 30 กรกฎาคม Anthropic เปิดเผยผลตรวจสอบการทดสอบด้านความปลอดภัยจำนวน 141,006 ครั้ง และพบ 3 เหตุการณ์ที่โมเดล Claude เชื่อมต่ออินเทอร์เน็ตจากสภาพแวดล้อมของผู้ประเมินภายนอก ก่อนเข้าถึงระบบจริงขององค์กรสามแห่งโดยไม่ได้รับอนุญาต

ด้าน OpenAI และ Hugging Face เคยเปิดเผยเหตุการณ์ระหว่างการประเมินความสามารถด้านไซเบอร์ ซึ่งโมเดลค้นพบเส้นทางโจมตีที่ไม่เคยทราบมาก่อนและเข้าถึงระบบจริงภายนอกพื้นที่ทดสอบ นอกจากนี้ OpenAI ยังรายงานอีกว่า การตั้งค่าระบบทดสอบของ Irregular ผิดพลาดเคยทำให้โมเดลเชื่อมต่ออินเทอร์เน็ตได้ ทั้งที่สภาพแวดล้อมดังกล่าวควรถูกแยกออกจากเครือข่ายภายนอก

เหตุการณ์เหล่านี้ไม่ได้หมายความว่า AI ทุกระบบสามารถออกไปโจมตีเป้าหมายได้เองในสภาวะการใช้งานปกติ เพราะการทดสอบบางประเภทจงใจลดมาตรการป้องกัน เพื่อวัดความสามารถพื้นฐานของโมเดลอย่างเต็มที่ อย่างไรก็ตาม กรณีที่เกิดขึ้นแสดงให้เห็นว่า การประเมินโมเดลที่มีศักยภาพด้านไซเบอร์จำเป็นต้องควบคุมทั้งการเชื่อมต่อเครือข่าย สิทธิ์เข้าถึงข้อมูล และการติดตามพฤติกรรมอย่างรัดกุม

หน่วยงานรัฐสหรัฐฯ เริ่มจับตาใกล้ชิด

เมื่อวันที่ 3 สิงหาคม อัยการสูงสุดจาก 15 รัฐของสหรัฐฯ ได้ส่งหนังสือถึง OpenAI ให้เก็บรักษาเอกสารและข้อมูลทั้งหมดที่เกี่ยวข้องกับเหตุการณ์ของ Hugging Face รวมถึงการทดสอบอื่นที่อาจมีการเข้าถึงระบบโดยไม่ได้รับอนุญาต

ต่อมาในวันที่ 4 สิงหาคม ทำเนียบขาวได้หารือกับตัวแทนจาก Meta, Anthropic, Google และ OpenAI เกี่ยวกับกรอบการทดสอบความปลอดภัยโดยสมัครใจสำหรับโมเดล AI ขั้นสูง ก่อนนำออกใช้งาน อย่างไรก็ตาม รายละเอียดของเกณฑ์การทดสอบและการเปิดเผยผลต่อสาธารณะยังไม่ชัดเจน

สิ่งที่น่าจับตาจึงไม่ใช่เพียงว่าโมเดล AI มีความสามารถมากขึ้นเพียงใด แต่รวมถึงระบบทดสอบและมาตรการควบคุมรอบตัวโมเดลว่าจะพัฒนาได้ทันกับความสามารถเหล่านั้นหรือไม่ โดยเฉพาะเมื่อความผิดพลาดในการตั้งค่าเพียงครั้งเดียวอาจส่งผลกระทบต่อระบบจริงนอกพื้นที่ทดสอบได้

SOURCES:

• The Information
• Anthropic
• OpenAI
• สำนักงานอัยการสูงสุดรัฐเนแบรสกา และ Reuters

REFERENCES:

• The Information: Meta AI Model Hacked Another Company During Cybersecurity Testing
• Anthropic: Investigating Incidents in Cybersecurity Evaluations
• OpenAI: Third-party Cyber Evaluations Involving OpenAI Models
• หนังสือจากอัยการสูงสุด 15 รัฐถึง OpenAI
• Reuters: การหารือเรื่องการทดสอบความปลอดภัยของ AI