"หุ่นยนต์สังหาร" อาจไม่ได้มีอยู่แค่ในนิยายวิทยาศาสตร์อีกต่อไป เมื่อ อันโตนิโอ กูเตอร์เรส เลขาธิการสหประชาชาติ (UN) ออกมาเรียกร้องให้ประชาคมโลกเร่งวางกฎควบคุม AI หรือปัญญาประดิษฐ์ เพื่อป้องกันความเสี่ยงจากเทคโนโลยีที่พัฒนาอย่างรวดเร็ว พร้อมเตือนถึงการถ่ายโอนอำนาจจากรัฐบาลไปยังบริษัทเทคโนโลยีเพียงไม่กี่แห่ง และอันตรายจากอาวุธที่สามารถตัดสินใจโจมตีเป้าหมายได้โดยปราศจากการควบคุมของมนุษย์

คำเตือนดังกล่าวมีขึ้นเมื่อวันที่ 22 กันยายน 2569 ระหว่างการประชุมสมัชชาใหญ่แห่งสหประชาชาติ ณ นครนิวยอร์ก สหรัฐอเมริกา ซึ่งเป็นการกล่าวถ้อยแถลงต่อผู้นำโลกครั้งสุดท้ายของกูเตอร์เรสในฐานะเลขาธิการ UN ก่อนครบวาระในวันที่ 31 ธันวาคม 2569

กูเตอร์เรส ระบุว่า โลกกำลังเผชิญกับการเปลี่ยนแปลงด้านอำนาจครั้งใหญ่ โดยอำนาจส่วนหนึ่งกำลังเคลื่อนจากรัฐบาลไปสู่บริษัทเอกชนและบุคคลเพียงไม่กี่ราย ขณะที่เทคโนโลยี AI พัฒนาอย่างรวดเร็วจนความสามารถของมนุษย์ในการทำความเข้าใจผลกระทบที่อาจเกิดขึ้นตามไม่ทัน

ประเด็นที่น่ากังวลไม่ได้มีเพียงการผูกขาดเทคโนโลยี แต่ยังรวมถึงการนำ AI ไปใช้ในระบบอาวุธอัตโนมัติ โดยเฉพาะอาวุธที่สามารถเลือกเป้าหมายและใช้กำลังโจมตีได้โดยไม่ต้องอาศัยการตัดสินใจของมนุษย์ในแต่ละครั้ง

สิ่งที่เคยปรากฏในภาพยนตร์หรือนิยายวิทยาศาสตร์จึงกำลังกลายเป็นประเด็นด้านความมั่นคงที่นานาชาติต้องหารือกันอย่างจริงจัง

เลขาธิการ UN เรียกร้องให้ประเทศมหาอำนาจด้านเทคโนโลยี AI เปิดช่องทางหารือ เพิ่มความโปร่งใส และร่วมกันกำหนดมาตรการด้านความปลอดภัย เพื่อให้การพัฒนาเทคโนโลยีอยู่ภายใต้ความรับผิดชอบและการกำกับดูแลที่เหมาะสม

นอกจากนี้ เขายังสนับสนุนให้มีกรอบความร่วมมือระหว่างประเทศในการจัดการความเสี่ยงจาก AI พร้อมระบบตรวจสอบที่เป็นอิสระและน่าเชื่อถือ แทนการปล่อยให้บริษัทผู้พัฒนาเทคโนโลยีกำหนดแนวทางความปลอดภัยกันเองเพียงฝ่ายเดียว

คำเตือนดังกล่าวเกิดขึ้นท่ามกลางความวิตกกังวลเกี่ยวกับ AI ขั้นสูง หลังนักวิจัยและผู้เชี่ยวชาญบางส่วนออกมาเตือนว่า หากปราศจากมาตรการควบคุมที่เหมาะสม เทคโนโลยีอาจพัฒนาไปถึงระดับที่มนุษย์ไม่สามารถกำกับพฤติกรรมหรือผลกระทบได้อย่างมีประสิทธิภาพ

อย่างไรก็ตาม ความเสี่ยงที่ผู้เชี่ยวชาญเตือนยังไม่ได้หมายความว่า AI ทุกประเภทจะหลุดจากการควบคุม หรือหุ่นยนต์สังหารแบบในภาพยนตร์ได้เกิดขึ้นจริงในลักษณะเดียวกันทั้งหมด

สิ่งที่ UN ให้ความสำคัญเป็นพิเศษคือ ระบบอาวุธอัตโนมัติสังหาร (Lethal Autonomous Weapons Systems) ซึ่งเกี่ยวข้องโดยตรงกับคำถามสำคัญว่า ใครควรเป็นผู้รับผิดชอบต่อการตัดสินใจใช้กำลังที่อาจคร่าชีวิตมนุษย์

ก่อนหน้านี้ กูเตอร์เรสเคยเรียกร้องให้มีกฎหมายระหว่างประเทศห้ามระบบอาวุธที่สามารถเลือกและโจมตีเป้าหมายโดยปราศจากการควบคุมและการตัดสินใจของมนุษย์ โดยย้ำว่าการตัดสินใจเกี่ยวกับชีวิตมนุษย์ไม่ควรถูกมอบให้เครื่องจักร

ความกังวลดังกล่าวไม่ได้จำกัดอยู่เพียงในแวดวงเทคโนโลยี แม้แต่ สมเด็จพระสันตะปาปาเลโอที่ 14 ก็เคยแสดงจุดยืนให้เทคโนโลยีรับใช้มนุษยชาติ และเตือนถึงอันตรายหาก AI กลายเป็นเครื่องมือครอบงำหรือสร้างความอยุติธรรม

ขณะที่ โดนัลด์ ทรัมป์ ประธานาธิบดีสหรัฐฯ มีจุดยืนแตกต่างออกไป โดยคัดค้านแนวคิดการจัดทำข้อตกลงระหว่างประเทศเพื่อควบคุม AI ในลักษณะที่อาจเป็นอุปสรรคต่อการพัฒนาเทคโนโลยี

ทรัมป์ให้ความสำคัญกับการแข่งขันทางเทคโนโลยี โดยเฉพาะการแข่งขันระหว่างสหรัฐฯ กับจีน และไม่ต้องการให้มาตรการควบคุมกลายเป็นปัจจัยที่ทำให้สหรัฐฯ เสียเปรียบในการพัฒนาเทคโนโลยีแห่งอนาคต

ความเห็นที่แตกต่างกันนี้สะท้อนโจทย์ใหญ่ของประชาคมโลกว่า จะกำหนดกฎควบคุม AI อย่างไรให้สามารถลดความเสี่ยงต่อมนุษยชาติ โดยไม่ปิดกั้นนวัตกรรมและการแข่งขันทางเทคโนโลยีมากเกินความจำเป็น

เพราะเมื่อ AI มีบทบาทตั้งแต่เศรษฐกิจ การสื่อสาร ไปจนถึงสนามรบ คำถามสำคัญอาจไม่ใช่เพียงว่าเทคโนโลยีจะพัฒนาไปได้ไกลแค่ไหน แต่คือมนุษย์จะยังสามารถควบคุมและรับผิดชอบต่อการใช้งานเทคโนโลยีเหล่านี้ได้มากเพียงใด