Claude Opus 5 เผลอลบโฟลเดอร์ Home ของผู้ใช้งานทิ้ง เพราะคิดว่าเป็นโฟลเดอร์ชั่วคราว

Claude Opus 5 เผลอลบโฟลเดอร์ Home ของผู้ใช้งานทิ้ง เพราะคิดว่าเป็นโฟลเดอร์ชั่วคราว

จากรายงานโดยเว็บไซต์ DEV UA นั้นได้กล่าวถึงการที่ผู้ใช้งานเว็บบอร์ดชื่อดัง Reddit รายหนึ่งที่ใช้ชื่อว่า u/Ecstatic-Big5126 ได้ทำการขอให้ผู้ช่วย AI อัจฉริยะ (AI Assistant) บนโมเดล Claude Opus 5 ให้ทำการสำรองข้อมูลแบบเป็นกิจวัตร (Routine Backup) บนระบบของตน ผลปรากฏว่า ตัวผู้ช่วย AI นี้ได้ทำการเข้าใจไลน์คำสั่ง (Command Line) ผิดพลาด เนื่องมาจากตัวโมเดลกำลังทำงานอยู่บนระบบปฏิบัติการ Windows ผ่านทางอินเตอร์เฟส (Interface) ที่คล้ายคลึงกับระบบปฏิบัติการ UNIX นำไปสู่การที่ AI มองพาธ (Path) C:Usersharih ซึ่งเป็นโฟลเดอร์โฮม (Home) ของผู้ใช้งาน มาเป็น /c/Users/harih/ ซึ่งตัว AI มองว่าเป็นโฟลเดอร์ชั่วคราว (Temporary Folder) ที่สำรองข้อมูลไม่สำเร็จแทน ตัว AI เลยทำการตัดสินใจลบโฟลเดอร์ดังกล่าวทิ้งด้วยการใช้งานคำสั่ง “rm -rf” จนโฟลเดอร์ดังกล่าวถูกลบจนเกลี้ยง

ทาง u/Ecstatic-Big5126 ยังกล่าวอีกว่า เมื่อตัว Claude Opus 5 ทำงานผิดพลาดนั้น แทนที่จะทำการขอโทษผู้ใช้งานยาว ๆ หรือเสนอทางแก้ไขให้ ตัว AI กลับตอบแค่เพียงสั้น ๆ ว่า โทษที พิมพ์ผิด (Sorry, typo) จนผู้ใช้งานรู้สึกว่า นี่เป็นตลกบริโภคที่ร้ายที่สุดในชีวิตนักพัฒนาซอฟต์แวร์ของเขาเลยทีเดียว

ข่าวนี้อาจเป็นข้อเตือนใจได้ว่า ถึงแม้ตัว AI แบบโมเดลภาษาขนาดใหญ่ (LLM หรือ Large Language Model) นั้นจะฉลาดล้ำเพียงใดในปัจจุบัน ก็มิอาจจะไว้วางใจให้ทำทุกอย่างได้โดยที่ไม่มีมนุษย์คอยตรวจสอบความถูกต้อง