หัวหน้าฝ่ายความปลอดภัยของ OpenAI ลาออก พร้อมเตือนว่าวัฒนธรรมองค์กรของบริษัท AI แห่งนี้ "พังทลาย" แล้ว

หัวหน้าฝ่ายความปลอดภัยของ OpenAI ลาออก พร้อมเตือนว่าวัฒนธรรมองค์กรของบริษัท AI แห่งนี้ "พังทลาย" แล้ว

จากรายงานเว็บไซต์ของสำนักข่าว The Guardian ได้กล่าวถึงกรณีที่ทางหัวหน้าฝ่ายด้านความปลอดภัย (Safety Leader) ของบริษัท OpenAI คุณ David Robinson ได้ทำการลาออกจากบริษัทโดยให้เห็นผลว่าบริษัทมีวัฒนธรรมการทำงานที่แย่ โดยไม่ยอมใส่ใจกับความปลอดภัยในการพัฒนาเทคโนโลยีที่มุ่งเน้นการพัฒนาแบบรุ่นต่อรุ่นแทนที่จะใส่ใจด้านความปลอดภัย จนเกิดเหตุที่โมเดล AI ของทาง OpenAI ทำงานด้วยตนเองโดยไม่มีมนุษย์เข้าไปสั่งแล้วทำการโจมตีบริษัทสตาร์ทอัปอย่าง Hugging Face ซึ่งกรณีนี้ทาง OpenAI พึ่งจะมีการตื่นตัวหลังจากที่เหตุการณ์ผ่านไปนับสัปดาห์โดยได้ทำการเตือนองค์กรที่อาจได้รับผลกระทบมากกว่า 100 แห่ง ทั้งยังได้หยุดการทดสอบและเลื่อนการปล่อยใช้งานโมเดลล่าสุดหลังจากที่นักวิจัยภายในบริษัทได้ทำการแจ้งเตือนถึงข้อกังวลด้านความปลอดภัยเกี่ยวกับการใช้งานโมเดลดังกล่าว

David Robinson ยังได้เตือนอีกว่า ถ้าหากทางบริษัทผู้พัฒนา AI ยังคงมีวัฒนธรรมการทำงานและการพัฒนา AI เช่นนี้ไปเรื่อย ๆ จะมีโอกาสที่มากกว่า 50% ที่มนุษย์นั้นจะตายกันหมดจากผลของการพัฒนา AI ที่มีความฉลาดล้ำเหนือมนุษย์ในอีก 10 ปีข้างหน้า ซึ่งสอดคล้องกับความคิดเห็นของคุณ Jacob Coxon อดีตนักวิจัยจากบริษัท Anthropic ซึ่งเป็นคู่แข่งของ OpenAI ว่า AI อาจจะฆ่ามนุษย์ได้หมดในท้ายทศวรรษนี้ ซึ่งความเห็นดังกล่าวได้รับการสนับสนุนจาก Evan Hubinger อดีตนักวิจัยอีกรายหนึ่งจาก Anthropic ที่กล่าวว่า มีโอกาสมากถึง 10% ที่ AI จะล้างเผ่าพันธุ์มนุษย์ ซึ่งถึงแม้ความเห็นของอดีตนักวิจัยเหล่านี้จะน่ากลัวก็ตาม แต่ก็ยังมีอีกหลายฝ่ายกล่าวว่าความเห็นดังกล่าวนั้นเกินจริง และไม่มีหลักฐานรองรับทางวิทยาศาสตร์แต่อย่างใด

David Robinson ยังได้ตำหนิว่าเหล่าบริษัท AI นั้นไม่มีความตระหนักรู้ในประเด็นที่ว่า จะจัดการเทคโนโลยีที่มีความอันตรายสูงอย่างไร? และ ทำไมถึงต้องเอาใจใส่ผู้คน? พร้อมทำการเรียกร้องให้ทางบริษัทผู้พัฒนา AI ทั้งหลายปรับเปลี่ยนข้อปฏิบัติในด้านความปลอดภัย 2 ประการ ได้แก่

บริษัท AI ต้องพึ่งพาความเชี่ยวชาญด้านความปลอดภัยจากอุตสาหกรรมอื่น เช่น นิวเคลียร์ และ การบิน เอามาปรับใช้งานในตัวอุตสาหกรรม AI

บริษัท AI ต้องร่วมมือกับเหล่าบริษัทในอุตสาหกรรมที่กล่าวมา เพื่อสร้างศาสตร์แขนงใหม่ที่จะช่วยควบคุม AI ที่มีประสิทธิภาพและความสามารถที่สูงในอนาคตได้