OpenAI อัปเดตเบราว์เซอร์ ChatGPT Atlas เพื่อป้องกันการโจมตีแบบ Prompt Injection

OpenAI อัปเดตเบราว์เซอร์ ChatGPT Atlas เพื่อป้องกันการโจมตีแบบ Prompt Injection

เว็บเบราว์เซอร์แบบ AI นั้นมักจะมาพร้อมกับระบบผู้ช่วย AI อัจฉริยะที่สามารถทำงานอัตโนมัติต่าง ๆ ได้เพียงแค่ใช้คำสั่ง หรือ Prompt ที่มีความเรียบง่าย หรือที่ถูกเรียนว่า Agentic AI แต่การใช้งานระบบนี้ในขั้นทดสอบนั้นกลับพบช่องโหว่ให้แฮกเกอร์เข้าเล่นงานผู้ใช้งานได้อย่างมากมาย โดยเฉพาะการใช้วิธียิงคำสั่ง หรือ Prompt Injection เพื่อสั่งการ AI ให้ทำตามแฮกเกอร์บงการ ทำให้ข่าวต่อไปนี้อาจเป็นข่าวดีของหลายคน

จากรายงานโดยเว็บไซต์ Digwatch ได้กล่าวถึงการที่ทาง OpenAI ซึ่งเป็นผู้พัฒนา ChatGPT Atlas เว็บเบราว์เซอร์แบบ AI ที่พัฒนาต่อยอดมาจาก AI แชทบอทยอดนิยม ChatGPT ประกาศว่าทางบริษัทได้ทำการพัฒนาระบบรักษาความปลอดภัยให้กับ ChatGPT Atlas รุ่นล่าสุดให้สามารถป้องกันการโจมตีแบบ Prompt Injection ซึ่งเป็นวิธีการโจมตีด้วยการซ่อนคำสั่ง Prompt ไว้ในอีเมล หรือไฟล์ตัวล่อ (Decoy) ต่าง ๆ เพื่อสั่งการให้ตัว Agentic AI นั้นทำอันตรายต่อเหยื่อ ไม่ว่าจะเป็นการแอบติดตั้งมัลแวร์, ขโมยไฟล์ (Exfiltration), แอบส่งข้อมูลให้แฮกเกอร์, สั่งโอนเงินเอง หรือแม้แต่การลบไฟล์ต่าง ๆ ของเหยื่อ ซึ่งเป็นวิธีการโจมตีที่มีความร้ายแรงสูง โดยที่ผ่านมานั้นทางนักวิจัยจากสำนักต่าง ๆ สามารถทดสอบการใช้วิธีการโจมตีแบบนี้ต่อเว็บเบราว์เซอร์แบบ AI และใช้งานได้ผลกับทุกตัว พร้อมทั้งรายงานสิ่งที่ตรวจพบดังกล่าวกลับไปให้กับทางผู้พัฒนาทุกราย นำมาสู่พัฒนาการใหม่ในครั้งนี้

ซึ่งระบบป้องกันแบบใหม่นี้จะเป็นการใช้ Automated Red-Team Framework หรือ ระบบจำลองการโจมตีทางไซเบอร์แบบอัตโนมัติ เข้ามาสอนตัว Agentic AI ให้เรียนรู้ถึงรูปแบบการโจมตีแบบต่าง ๆ นำมาสู่การสร้างกรอบการทำงานของ AI ที่มีความแข็งแกร่งในการต้านการโจมตีโดย Prompt Injection ได้ นอกจากนั้นทาง OpenAI ยังได้อัปเดตระบบการติดตาม (Monitoring) และระบบควบคุมปรับแต่งความปลอดภัย (Safety Control) เพื่อให้สามารถจับตามองและตามรอยการโจมตีต่าง ๆ ได้อย่างมีประสิทธิภาพมากยิ่งขึ้น

ระบบป้องกันแบบใหม่นี้ได้ถูกอัปเดตให้กับผู้ใช้งานสามารถลองใช้ได้แล้วบนอัปเดตล่าสุด ซึ่งในขณะนี้จะเป็นเวอร์ชัน macOS เท่านั้น ส่วนเวอร์ชัน Windows ยังอยู่ระหว่างการพัฒนาไม่ได้มีการปล่อยให้ผู้ใช้งานทั่วไปใช้ในขณะนี้ สำหรับผู้ใช้งานระบบปฏิบัติการ Windows ที่มีความสนใจในเบราว์เซอร์ตัวนี้ขอให้ตามข่าวอย่างใกล้ชิดต่อไป