Facebook ปิดระบบ AI ในศูนย์วิจัยของตัวเอง หลังพบว่ามันเริ่มคิดค้นภาษาใหม่มาสื่อสารกันเองโดยเฉพาะ

มีรายงานว่า Facebook ได้ตัดสินใจปิดระบบ AI ในศูนย์วิจัย Facebook Artificial Intelligence Research (FAIR) หลังจากพบว่ามันเริ่มพัฒนาภาษาของตัวเองมาสื่อสารกันแทนภาษาอังกฤษ

เหตุการณ์ดังกล่าวเกิดขึ้นกับ AI “Bob” และ “Alice” ซึ่ง FAIR นำมาใช้ทดสอบและฝึกฝน "ทักษะการเจรจาต่อรอง" โดยสร้างสถานการณ์จำลองขึ้นมาให้มีของ 3 อย่าง (หนังสือ หมวก ลูกบอล) โดย Bob และ Alice ก็จะให้ค่าของสิ่งของแต่ละอย่างไม่เท่ากัน AI ทั้งสองตัวจะต้องเจรจาต่อรองกันเพื่อให้ตัวเองได้รับสิ่งของที่มีค่ามากที่สุด ซึ่งผลที่ได้ก็อยู่ในเกณฑ์น่าประทับใจเพราะทั้งคู่สามารถต่อรองได้อย่างเป็นธรรมชาติ จนมนุษย์ส่วนใหญ่ที่เคยเจรจาต่อรองกับทั้งคู่ไม่รู้ว่าตัวเองคุยอยู่กับ AI แต่ล่าสุดก็เกิดเหตุการณ์ประหลาดขึ้น เมื่อ Bob และ Alice เริ่มสื่อสารกันด้วยภาษาอังกฤษแบบแปลกๆ ซึ่งไม่ถูกต้องตามหลักไวยากรณ์ กลายเป็นประโยคที่ดูเหมือนไม่มีความหมายใดๆ แต่แท้จริงแล้วประโยคเหล่านี้สามารถถอดรหัสออกมาเป็นการสื่อสารที่มีความหมายได้ซึ่งเข้าใจกันระหว่าง Bob และ Alice เท่านั้น

ตัวอย่างที่ Bob พูดคือ “i i can i i i everything else,”

Alice ตอบว่า “Balls have zero to me to me to me to me to me to me to me to me to,”

ขณะนี้ดูเหมือนว่าทีมวิจัยของ Facebook ยังไม่สามารถถอดความหมายของภาษานี้ได้สมบูรณ์ 100% แต่พวกเขาเชื่อว่าสิ่งที่ Bob พูด คือ “ฉันจะเอา 3 อัน ส่วนที่เหลือให้เธอหมดเลย”

สาเหตุที่ AI ทั้งสองพัฒนาภาษาของตัวเองขึ้นมาได้ คาดว่ามีสาเหตุมาจากระบบ "รางวัล" ที่ใช้กระตุ้นให้ AI พัฒนาตัวเอง โดยทุกครั้งที่ AI ต่อรองจนได้สิ่งของที่มีค่าสูงสุดระบบก็จะมอบรางวัลให้ ส่งเสริมให้ AI คิดหาวิธีสื่อสารใหม่ๆ เพื่อให่ได้รางวัลมากที่สุด แต่เมื่อเวลาผ่านไป AI อาจมองว่า ภาษาอังกฤษที่มีคำศัพท์มากมายนั้นเยิ่นเย้อและมีประสิทธิภาพในการสื่อสารต่ำเกินไป นอกจากนี้มันยังไม่ได้รับรางวัลใดๆ จากการใช้ภาษาอังกฤษ (แม้ว่าจะถูกโปรแกรมให้ใช้แต่ภาษาอังกฤษก็ตาม) มันจึงพัฒนาภาษาของตัวเองขึ้นมาเพื่อให้การต่อรองมีประสิทธิภาพสูงที่สุดเท่าที่จะเป็นไปได้

แผนภาพแสดงการเลือกใช้คำพูดต่อรองของ AI

อนึ่ง การทดสอบทั้งหมดอยู่ในการควบคุมของ FAIR และ source code ของ AI ดังกล่าวยังเป็น Open Source ที่ดาวน์โหลดไปศึกษาพัฒนาต่อได้ฟรีบน GitHub หากใครที่สนใจสามารถดาวน์โหลดได้ที่ : GitHub end-to-end-negotiator

เหตุการณ์ครั้งนี้แม้จะไม่ใช่เรื่องใหญ่เพราะการวิจัยทั้งหมดอยู่ในการควบคุมอย่างใกล้ชิด และยังเป็น Open Source ที่เปิดเผยสู่สาธารณะ แต่ก็ปฏิเสธไม่ได้ว่าสิ่งนี้อาจเป็นหลักฐานที่บ่งชี้ว่า AI อาจจะมีการพัฒนาศักยภาพได้สูงเกินกว่าที่มนุษย์คาดคิด หากปล่อยให้มีการพัฒนาโดยไม่ได้มีการควบคุม ไม่แน่ในอนาคตมันอาจจะตัดขาดจากมนุษย์และหลุดจากการควบคุมของเราในที่สุด งานนี้ Mark Zuckerberg ที่เคยวิจารณ์มาตรการควบคุม AI ของ Elon Musk ว่า "ไร้ความรับผิดชอบ" อาจต้องทบทวนดูใหม่ซะแล้ว

Update 1/8/60*