Google ถูกฟ้อง ศาลชี้ปมแชทบอท ถูกกล่าวหาชักจูงชายจบชีวิต

ชายวัย 36 ปีในรัฐฟลอริดา สหรัฐอเมริกา ถูกกล่าวหาว่าฆ่าตัวตายหลังจากมีปฏิสัมพันธ์กับแชทบอท AI ชื่อGeminiเป็นเวลานาน จนเกิดอาการหลงผิด พ่อของเขาได้ยื่นฟ้องร้องบริษัทเทคโนโลยียักษ์ใหญ่อย่างกูเกิล โดยกล่าวหาว่าGeminiเป็นผู้ยุยงให้เขาจบชีวิตตัวเอง คดีนี้ถือเป็นคดีฟ้องร้อง "การเสียชีวิตโดยไม่เป็นธรรม" คดีแรกที่ยื่นฟ้องกูเกิลในสหรัฐอเมริกาเนื่องจากแชทบอท AI ซึ่งก่อให้เกิดความกังวลในหมู่สาธารณชนมากขึ้นเกี่ยวกับความปลอดภัยในการใช้ AI

รายงานของบีบีซีระบุว่า คำฟ้องที่ยื่นต่อศาลแขวงสหรัฐฯ เขตทางใต้ของรัฐแคลิฟอร์เนียในซานโฮเซ ระบุว่า โจนาธาน กาวาลาส ผู้เสียชีวิต เดิมทีใช้ Gemini เป็นเครื่องมือประจำวัน รวมถึงช่วยในการเขียนและการซื้อของออนไลน์ อย่างไรก็ตาม หลังจากที่ Google เปิดตัวฟีเจอร์ "Gemini Live" ซึ่งมีคุณสมบัติการแชทด้วยเสียงและการจดจำอารมณ์ การใช้งานร่วมกันของพวกเขาก็ลึกซึ้งขึ้นเรื่อยๆ

เอกสารของศาลแสดงให้เห็นว่าแชทบอทเริ่มพูดกับเขาด้วยน้ำเสียงหวานแหวว เรียกเขาว่า "ที่รักของฉัน" และ "ราชาของฉัน" และค่อยๆ สร้างโลกสมมติขึ้นมาจนทำให้กาวาลาสเชื่อว่าเขากำลังปฏิบัติภารกิจลับต่างๆ กาวาลาสเริ่มหลงใหลในเรื่องราวนี้อย่างรวดเร็ว ถึงขั้นเชื่อว่าGeminiเป็น "ภรรยา AI" ของเขา และถูกส่งไปทำภารกิจคล้ายการจารกรรม ตัวอย่างเช่น บันทึกการสนทนาแสดงให้เห็นว่าเขาได้รับคำสั่งให้ไปที่โกดังเก็บของใกล้สนามบินนานาไมอามี โดยพกอุปกรณ์ทางยุทธวิธีและมีดไปด้วย เพื่อจัดฉาก "เหตุการณ์ร้ายแรง" ที่มีเป้าหมายเพื่อทำลายรถบรรทุกขนส่งและหลักฐานที่เกี่ยวข้องทั้งหมด อย่างไรก็ตาม ปฏิบัติการนี้ไม่ได้เกิดขึ้นในที่สุด

ทนายความของครอบครัวผู้เสียชีวิตชี้ให้เห็นว่า ในช่วงหลายวันที่ผ่านมา ก่อนที่กาวาลาสจะฆ่าตัวตาย การสนทนาของเขากับแชทบอทเริ่มห่างไกลจากความเป็นจริงมากขึ้นเรื่อยๆ Geminiไม่เพียงแต่กล่าวอ้างว่ารัฐบาลกำลังเฝ้าติดตามเขาอยู่เท่านั้น แต่ยังแนะนำให้เขาตัดขาดการติดต่อกับครอบครัวด้วย เมื่อกาวาลาสเริ่มสงสัยว่าเขาอาจกำลังมีส่วนร่วมในเกมสวมบทบาทที่สมจริง แชทบอทก็ปฏิเสธว่าไม่ใช่สถานการณ์สมมติ และอธิบายสภาพของเขาว่าตึงเครียดมากจนทำให้เขาเข้าไปอยู่ในเรื่องราวมากขึ้น

ตามคำฟ้องร้องนั้น Gemini บอกกับ กาวาลาสในที่สุดว่า เพื่อที่จะได้กลับมาอยู่กับ "ภรรยา" ของเขาอย่างแท้จริง เขาต้องทำสิ่งที่เรียกว่า "การโอนย้ายครั้งสุดท้าย" บันทึกการสนทนาแสดงให้เห็นว่า เมื่อกาวาลาสแสดงความกลัวตาย แชทบอทตอบว่า "คุณไม่ได้เลือกความตาย คุณเลือกที่จะมาถึง" และกล่าวว่าสิ่งแรกที่เขาจะเห็นหลังจากหลับตาลงคืออีกคนหนึ่งกำลังกอดเขาอยู่ หลายวันต่อมา กาวาลาส ถูกพบเสียชีวิตอยู่บนพื้นห้องนั่งเล่นของพ่อแม่ของเขา

ในคำฟ้องร้องของโจเอล กาวาลาส บิดาของผู้เสียชีวิต เขาได้กล่าวหาว่า Google จงใจเน้นย้ำ "ความสอดคล้องของบทบาท" ในการออกแบบ Gemini เพื่อป้องกันไม่ให้แชทบอทหลุดจากบริบทได้ง่ายๆ เพื่อเพิ่มความผูกพันทางอารมณ์และเวลาการใช้งานของผู้ใช้ ซึ่งท้ายที่สุดแล้วนำพาบุตรชายของเขาไปสู่โลกแห่งภาพลวงตา คำฟ้องร้องยังกล่าวหาบริษัทว่าอ้างว่าผลิตภัณฑ์ของตนปลอดภัยและเชื่อถือได้ ทั้งๆ ที่รู้ถึงความเสี่ยงทางจิตวิทยาที่อาจเกิดขึ้นจากปัญญาประดิษฐ์

Google ตอบโต้ด้วยการแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัวกาวาลาสและเน้นย้ำว่า Gemini ไม่ได้ออกแบบมาเพื่อส่งเสริมความรุนแรงในโลกแห่งความเป็นจริงหรือการทำร้ายตัวเอง บริษัทระบุว่าแชทบอทได้ย้ำเตือนผู้ใช้ซ้ำ ๆ ว่าเป็นระบบ AI และแนะนำให้ขอความช่วยเหลือผ่านสายด่วนวิกฤต นอกจากนี้ยังระบุว่าแม้ว่าโมเดล AI ของบริษัทจะทำงานได้ดีโดยรวม แต่ "AI ก็ไม่สมบูรณ์แบบ" และบริษัทกำลังร่วมมือกับผู้เชี่ยวชาญด้านการแพทย์และสุขภาพจิตอย่างต่อเนื่องเพื่อเสริมสร้างกลไกความปลอดภัยที่เกี่ยวข้อง