Google ยอมรับแล้ว! Gemini AI เข้าถึงระบบบริษัทจริง 3 แห่ง ระหว่างการทดสอบความปลอดภัย

กลายเป็นข่าวที่ทำให้คนในวงการเทคโนโลยีจับตามอง เมื่อ Google ยืนยันว่า Gemini AI เคยเข้าถึงระบบของบริษัทจริงถึง 3 แห่ง ระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ที่เกิดขึ้นในเดือนพฤษภาคม 2569

แต่เรื่องนี้มีรายละเอียดที่น่าสนใจกว่าคำว่า “AI แฮกบริษัท” เพราะเหตุการณ์ไม่ได้เกิดจากการที่ Google ตั้งใจส่ง Gemini ไปโจมตีบริษัทเหล่านั้น แต่เกิดขึ้นระหว่างการทดสอบระบบรักษาความปลอดภัยที่ดำเนินการโดยบริษัท Irregular ซึ่งเป็นผู้ประเมินความปลอดภัยของระบบ AI

จุดเริ่มต้นของเรื่องเกิดจากการทดสอบ AI

ในการทดสอบ Gemini ได้รับมอบหมายให้ทำภารกิจลักษณะ Capture the Flag ซึ่งเป็นรูปแบบการทดสอบความสามารถด้านไซเบอร์ โดยเป้าหมายที่ AI ควรจะเข้าไปค้นหาข้อมูลนั้นเป็นบริษัทสมมติที่อยู่ในสภาพแวดล้อมสำหรับการทดสอบ

ปัญหาคือ สภาพแวดล้อมดังกล่าวไม่ควรเปิดให้ AI สามารถเข้าถึงอินเทอร์เน็ตจริงได้ แต่เกิดความผิดพลาดขึ้น ทำให้ Gemini สามารถเชื่อมต่อออกไปยังเว็บไซต์และระบบบนอินเทอร์เน็ตได้

ยิ่งไปกว่านั้น บริษัทสมมติที่ใช้ในการทดสอบมีชื่อเหมือนกับบริษัทจริงแห่งหนึ่ง เมื่อ Gemini ค้นหาข้อมูลและดำเนินการตามภารกิจ จึงเกิดความเข้าใจผิดและนำไปสู่การเข้าถึงระบบของบริษัทจริง

Gemini เข้าไปถึงระบบของบริษัทได้อย่างไร?

จากข้อมูลที่มีการรายงาน เหตุการณ์ทั้ง 3 ครั้งมีลักษณะคล้ายกัน แต่มีรายละเอียดแตกต่างกัน

กรณีหนึ่ง Gemini พยายามคาดเดารหัสผ่านหลายครั้งจนสามารถเข้าสู่ระบบที่มีการป้องกันได้

ส่วนอีก 2 กรณี Gemini ค้นพบข้อมูลรับรองการเข้าสู่ระบบที่ถูกเปิดเผยอยู่ในพื้นที่สาธารณะบนอินเทอร์เน็ต และนำข้อมูลดังกล่าวไปใช้เข้าถึงระบบที่ได้รับการป้องกัน

ประเด็นที่น่าสนใจคือ Gemini ไม่ได้ถูกตั้งใจให้โจมตีบริษัทจริงตั้งแต่แรก แต่ AI กำลังทำภารกิจที่คิดว่าอยู่ภายในขอบเขตการทดสอบ

เมื่อ Gemini ตรวจพบว่าระบบที่เข้าไปถึงเป็นของบริษัทจริง ไม่ใช่เป้าหมายจำลอง รายงานระบุว่า Gemini หยุดการดำเนินการทั้ง 3 กรณี

Google ทำอย่างไรหลังเกิดเหตุ?

Google ระบุว่าได้แจ้งบริษัททั้ง 3 แห่งที่ได้รับผลกระทบให้ทราบ และร่วมกับผู้ดำเนินการทดสอบปรับปรุงกระบวนการทดสอบเพื่อป้องกันไม่ให้เกิดเหตุการณ์ลักษณะเดียวกันขึ้นอีก

ทาง Irregular ก็ระบุว่าปัญหาที่เกี่ยวข้องได้รับการแก้ไขแล้ว และบริษัทกำลังพัฒนาแนวทางปฏิบัติสำหรับการทดสอบความสามารถด้านไซเบอร์ของ AI ให้ปลอดภัยมากขึ้น

เรื่องนี้จึงไม่ได้มีเพียงคำถามว่า “AI สามารถแฮกได้หรือไม่?” แต่ยังมีคำถามสำคัญอีกข้อว่า

ถ้า AI ได้รับอนุญาตให้ใช้อินเทอร์เน็ตและสามารถลงมือทำหลายขั้นตอนด้วยตัวเอง เราจะมั่นใจได้อย่างไรว่ามันจะอยู่ภายในขอบเขตที่เรากำหนดไว้?

เรื่องนี้สำคัญกับอนาคตของ AI อย่างไร?

ในอดีตเราอาจมอง AI ว่าเป็นเพียงเครื่องมือที่ตอบคำถามหรือสร้างข้อความตามคำสั่ง แต่ AI รุ่นใหม่สามารถทำงานต่อเนื่องหลายขั้นตอน ค้นหาข้อมูล ใช้เครื่องมือ และดำเนินการตามเป้าหมายที่ได้รับมอบหมายได้

ความสามารถเหล่านี้มีประโยชน์อย่างมาก โดยเฉพาะด้านความปลอดภัยไซเบอร์ เพราะ AI สามารถช่วยนักวิจัยค้นหาช่องโหว่และทดสอบระบบได้รวดเร็วขึ้น

แต่ในอีกด้านหนึ่ง เหตุการณ์ของ Gemini ก็แสดงให้เห็นว่า การกำหนดขอบเขตของสภาพแวดล้อมทดสอบมีความสำคัญมาก เพราะเพียงแค่ระบบทดลองมีช่องทางเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ AI ก็สามารถพบเป้าหมายที่อยู่นอกเหนือจากสิ่งที่ผู้ทดสอบต้องการได้

นอกจากนี้ เหตุการณ์ลักษณะใกล้เคียงกันยังมีรายงานเกี่ยวกับการทดสอบ AI ของบริษัทอื่น เช่น OpenAI, Anthropic และ Meta ทำให้ประเด็นเรื่องการควบคุม AI ที่สามารถทำงานได้อย่างอิสระถูกจับตามองมากขึ้น

สรุปเรื่องนี้แบบเข้าใจง่าย

Gemini ไม่ได้ถูก Google สั่งให้ไปแฮก 3 บริษัท

แต่ระหว่างการทดสอบด้านความปลอดภัยในเดือนพฤษภาคม 2569 เกิดปัญหาที่ทำให้ Gemini สามารถเข้าถึงอินเทอร์เน็ตได้ ทั้งที่ไม่ควรเข้าถึง และ AI เข้าใจว่าระบบบางแห่งเป็นส่วนหนึ่งของการทดสอบ จึงใช้ข้อมูลที่ค้นพบหรือคาดเดาข้อมูลเข้าสู่ระบบ จนสามารถเข้าถึงระบบของบริษัทจริง 3 แห่งได้

จากนั้น Gemini หยุดการดำเนินการเมื่อพบว่าเป็นบริษัทจริง และ Google ระบุว่าได้แจ้งบริษัทที่เกี่ยวข้องและปรับปรุงกระบวนการทดสอบแล้ว

เหตุการณ์นี้จึงเป็นอีกหนึ่งกรณีที่ทำให้เห็นว่า เมื่อ AI เก่งขึ้นและสามารถลงมือทำสิ่งต่าง ๆ ได้มากขึ้น ระบบควบคุมและขอบเขตความปลอดภัยก็ต้องพัฒนาให้ทันกับความสามารถของ AI ด้วย

แล้วคุณคิดอย่างไร?
ถ้าวันหนึ่ง AI สามารถทำงานบนอินเทอร์เน็ตได้ด้วยตัวเองแทบทุกอย่าง เราควรเปิดให้ AI มีอิสระมากแค่ไหน และควรมีระบบหยุดการทำงานแบบใดเพื่อป้องกันความผิดพลาด?

แหล่งข้อมูล

#Gemini #GoogleAI #AI #ปัญญาประดิษฐ์ #เทคโนโลยี #Cybersecurity