ภาพเด็กจริงถูกใช้ในโฆษณา AI ลบเสื้อผ้าบนแพลตฟอร์ม Meta พบแม้แต่ภาพเยาวชนราชวงศ์ยุโรป

สะเทือนวงการ! ภาพเด็กจริงถูกใช้ในโฆษณา AI ลบเสื้อผ้าบนแพลตฟอร์ม Meta พบแม้แต่ภาพเยาวชนราชวงศ์ยุโรป

องค์กรวิจัยในสหรัฐฯ เปิดเผยผลการตรวจสอบที่น่าตกใจ หลังพบโฆษณาหลายร้อยรายการบนแพลตฟอร์มของ Meta ซึ่งนำภาพถ่ายของเด็กจริงจากโลกออนไลน์ไปใช้กับเครื่องมือ AI เพื่อสร้างภาพในลักษณะทางเพศ โดยหนึ่งในภาพที่ถูกนำไปใช้เป็นภาพของเยาวชนจากราชวงศ์ยุโรป

รายงานจาก Tech Transparency Project (TTP) ระบุว่า นักวิจัยพบโฆษณามากกว่า 300 รายการ ที่เกี่ยวข้องกับภาพเด็กตั้งแต่เด็กเล็ก วัยก่อนวัยรุ่น ไปจนถึงวัยรุ่นตอนต้น และเผยแพร่ผ่าน Facebook, Instagram, Messenger, Threads รวมถึงเครือข่ายโฆษณาของ Meta

หนึ่งในกรณีที่สร้างความกังวลอย่างมาก คือการนำภาพอย่างเป็นทางการของเยาวชนจากราชวงศ์ยุโรป ซึ่งครอบครัวเผยแพร่เมื่อปีที่ผ่านมา ไปใช้เป็นส่วนหนึ่งของโฆษณา TTP ไม่เปิดเผยตัวตนของเด็กเพื่อปกป้องความเป็นส่วนตัว และระบุว่าได้แจ้งเรื่องดังกล่าวไปยังเจ้าหน้าที่ของประเทศที่เกี่ยวข้องแล้ว

โฆษณาใช้ภาพเด็กจริงเป็นต้นทาง

จากการตรวจสอบ TTP พบว่า โฆษณาหลายชิ้นเริ่มต้นด้วยภาพถ่ายปกติของเด็กหญิงหรือวัยรุ่น ก่อนนำเสนอข้อความเชิญชวนให้ผู้ใช้งานนำภาพไปประมวลผลด้วย AI

เมื่อวิดีโอทำงาน ระบบจะเปลี่ยนหรือผสมภาพต้นฉบับให้กลายเป็นเนื้อหาทางเพศ โดยอาศัยเทคโนโลยีที่มักถูกเรียกว่า AI nudify ซึ่งสามารถสร้างภาพเปลือยปลอมจากภาพบุคคลที่มีอยู่เดิม

นักวิจัยยังพบว่า โฆษณาจำนวนมากนำผู้ใช้งานไปยังแอปพลิเคชันด้าน AI ที่ให้ดาวน์โหลดผ่าน Apple App Store และ Google Play Store โดยบางแอปมีความสามารถในการสร้างภาพลักษณะดังกล่าว

พบโฆษณาที่เชื่อมโยงกับบริษัทในจีน

TTP ยังตรวจสอบเส้นทางการซื้อโฆษณาและระบุว่า มีโฆษณาบางส่วนถูกซื้อผ่านบริษัทตัวแทนโฆษณารายใหญ่ในจีน ซึ่งเป็นพันธมิตรระดับสูงของ Meta

หนึ่งในบริษัทที่ถูกกล่าวถึงคือ GIMC ซึ่ง TTP ระบุว่ามีรัฐบาลจีนเป็นผู้ควบคุม ขณะที่ Blue Focus ถูกระบุว่ามีความเชื่อมโยงกับสื่อโฆษณาชวนเชื่อหลักของพรรคคอมมิวนิสต์จีน

รายงานยังระบุว่า แอป AI ที่ถูกโปรโมตผ่านโฆษณาที่นักวิจัยพบส่วนใหญ่พัฒนาโดยบริษัทจากจีน และหลายแอปมีความสามารถในการนำภาพบุคคลไปสร้างเป็นภาพเปลือย

Meta ยืนยันมีนโยบายห้ามโฆษณาแอป Nudify

TTP ระบุว่าได้รายงานโฆษณาที่พบให้ Meta ทราบ พร้อมตั้งคำถามว่าทำไมเนื้อหาเหล่านี้จึงสามารถผ่านระบบตรวจสอบและเผยแพร่บนแพลตฟอร์มได้ รวมถึงต้องการทราบจำนวนผู้ที่เห็นโฆษณาและรายได้ที่บริษัทได้รับ

Meta ชี้แจงกับสื่อว่า บริษัท ห้ามโฆษณาแอปประเภท nudify และระบุว่าโฆษณาส่วนใหญ่ที่ TTP ตรวจพบมีการแสดงผลน้อยกว่า 200 ครั้ง ขณะที่งบโฆษณารวมกันต่ำกว่า 5,000 ดอลลาร์สหรัฐ

บริษัทระบุเพิ่มเติมว่า เนื้อหาบางประเภทตรวจจับได้ยาก โดยเฉพาะวิดีโอที่มีเนื้อหาต้องห้ามปรากฏเพียงช่วงเวลาสั้น ๆ หรือถูกทำให้เบลอ

กรณีดังกล่าวเกิดขึ้นในช่วงที่ Meta กำลังเผชิญแรงกดดันอย่างหนักเกี่ยวกับมาตรการคุ้มครองเด็กบนแพลตฟอร์ม หลังศาลในรัฐนิวเม็กซิโกมีคำสั่งให้บริษัทจ่ายเงิน 567 ล้านดอลลาร์สหรัฐ พร้อมเพิ่มมาตรการด้านความปลอดภัย หลังมีการกล่าวหาว่าบริษัทล้มเหลวในการป้องกันการแสวงหาประโยชน์ทางเพศจากเด็ก

เหตุการณ์ล่าสุดยังสะท้อนความกังวลที่เพิ่มขึ้นทั่วโลกต่อการนำ AI ไปใช้สร้างภาพทางเพศโดยไม่ได้รับความยินยอม โดยเฉพาะการนำ ภาพถ่ายจริงของเด็กจากโซเชียลมีเดียและเว็บไซต์สาธารณะ ไปดัดแปลง ซึ่งอาจสร้างความเสียหายร้ายแรงต่อเด็ก แม้เด็กเหล่านั้นจะไม่เคยมีส่วนเกี่ยวข้องกับเนื้อหาดังกล่าวเลยก็ตาม