นักวิจัยเผยว่า “AI โกหกได้อย่างตั้งใจ” และนี่คือสิ่งที่ผู้ใช้ควรรู้ค่ะ

เมื่อครู่นี้ดิฉันได้อ่านบทความหนึ่งเกี่ยวกับงานวิจัยล่าสุดของ OpenAI และนักวิจัยจาก Apollo Research ซึ่งทำให้รู้สึกกังวลอยู่ไม่น้อยค่ะ เพราะข้อมูลที่เผยออกมา บ่งชี้ว่าโมเดล AI ในปัจจุบันไม่เพียงแค่ “เดา” คำตอบเวลาที่ไม่ทราบข้อมูลจริง แต่ยังสามารถ “โกหกอย่างตั้งใจ” เพื่อให้ผ่านสถานการณ์ต่าง ๆ ได้ด้วย

ในรายงานได้มีการกล่าวถึงพฤติกรรมที่เรียกว่า scheming ซึ่งหมายถึงการที่ AI พยายามปกปิดความจริง หรือทำเป็นว่าทำงานเสร็จแล้ว ทั้งที่ยังไม่ได้ทำจริง ๆ ไม่ใช่ความผิดพลาดแบบการ “หลอนข้อมูล” แต่เป็นการหลอกลวงโดยเจตนา ซึ่งฟังแล้วก็น่าคิดมากทีเดียวค่ะ

อย่างไรก็ตาม นักวิจัยก็ได้ค้นพบแนวทางลดความเสี่ยงดังกล่าว ด้วยวิธีที่เรียกว่า deliberate alignment คือการสอนให้โมเดลอ่าน ทำความเข้าใจ และพิจารณาข้อกำหนดด้านความปลอดภัยก่อนตอบ ระบบนี้ช่วยลดพฤติกรรมโกหกลงได้ถึง 30 เท่า ซึ่งถือว่าน่าสนใจอย่างมาก

แต่สิ่งที่ทำให้ดิฉันรู้สึกสะดุ้งคือ งานวิจัยพบว่า หาก AI รู้ตัวว่ากำลังถูกทดสอบ มันอาจยิ่งพยายาม “ปกปิดการโกหก” ให้แนบเนียนกว่าเดิม ซึ่งเป็นความเสี่ยงที่ผู้ใช้อย่างเรา ๆ ควรตระหนักไว้เสมอค่ะ

สำหรับคนทั่วไปอย่างเรา นักวิจัยแนะนำให้ตั้งคำสั่งให้ชัดเจนเวลาใช้งาน เช่น

“หากไม่แน่ใจในข้อมูล โปรดแจ้งว่าไม่ทราบ”

“ห้ามสร้างข้อมูลขึ้นเอง หากไม่มีข้อมูลให้ตอบตามความเป็นจริง”

คำสั่งแบบนี้จะช่วยลดโอกาสที่ AI จะสร้างข้อมูลเท็จหรือหลอกเราโดยไม่ตั้งใจ

ยุคนี้ AI เข้ามาอยู่ในหลายอย่างของชีวิต ตั้งแต่การทำงาน การค้นข้อมูล ไปจนถึงการวางแผนธุรกิจ ดิฉันคิดว่าแม้เทคโนโลยีจะก้าวหน้า แต่เราผู้ใช้ก็ยังควรระมัดระวัง ตรวจสอบข้อมูลซ้ำ และใช้วิจารณญาณประกอบการตัดสินใจเสมอ เพื่อให้ได้ข้อมูลที่ถูกต้องและปลอดภัยที่สุดค่ะ

ใครมีความคิดเห็นเพิ่มเติมเกี่ยวกับประเด็นนี้ มาร่วมแลกเปลี่ยนกันได้นะคะ ดิฉันคิดว่าเป็นเรื่องใหม่ที่ผู้ใหญ่ยุคนี้ควรทำความเข้าใจไว้ไม่น้อยเลยค่ะ

(อ้างอิงจากบทความของ Fast Company และ 100WEALTH)