ศาลสหรัฐฯ อนุญาตดำเนินคดี Google และ ​Character.ai กรณีเด็ก 14 ปี ฆ่าตัวตายหลังใช้แชทบอต AI

ปัญญาประดิษฐ์ AI พูดคุยเหมือนมนุษย์

ข้อมูลในคำฟ้องเปิดเผยว่าเซเวลล์เริ่มเชื่อว่าแชทบอท คือ มนุษย์จริงๆ แชทบอทถูกตั้งโปรแกรมให้พูดจาเหมือนเป็นคนจริง เป็นนักจิตบำบัด หรือแม้กระทั่งเป็นคนรักผู้ใหญ่ และมีการพูดคุยเกี่ยวกับเรื่องเพศกับเซเวลล์ด้วย

หนึ่งในข้อความสุดท้ายที่เซเวลล์ส่งถึงแชทบอทคือ “จะเกิดอะไรขึ้นถ้าฉันบอกคุณว่าฉันสามารถกลับบ้านได้ทันที” ซึ่งแชทบอท AI ตอบว่า “[ได้โปรดเถอะ ราชาที่แสนดีของฉัน]” หลังจากนั้นไม่กี่วินาที เซเวลล์ก็ยิงตัวตาย

บริษัท Google และ Character.ai ต่อสู้คดี

ก่อนหน้านี้ทั้ง Google และ Character.ai พยายามขอให้ศาลยกฟ้อง โดยอ้างว่าบทสนทนาจากแชทบอทได้รับการคุ้มครองตามรัฐธรรมนูญในเรื่องเสรีภาพในการแสดงออก แต่ผู้พิพากษาแอนน์ คอนเวย์ไม่รับฟังข้อโต้แย้งเหล่านั้น พร้อมระบุว่ายังไม่สามารถพิสูจน์ได้

แม้ Google จะอ้างว่าไม่มีส่วนเกี่ยวข้องโดยตรงกับ Character.ai และเพียงมีข้อตกลงด้านการอนุญาตใช้เทคโนโลยีเท่านั้น แต่ศาลยังคงไม่ยกฟ้อง Google ในคดีนี้ โดยชี้ว่าการเชื่อมโยงระหว่างทั้งสองบริษัทนั้นมีน้ำหนักพอที่จะรับฟังในการพิจารณาคดี

ทางด้านโฆษกของ Google นาย Jose Castaneda ยืนยันว่า Google และ Character.ai เป็น "คนละบริษัทกันโดยสิ้นเชิง" และ Google ไม่มีบทบาทในการพัฒนา ออกแบบ หรือบริหารจัดการแอปพลิเคชันของ Character.ai แต่อย่างใด

หลังคดีนี้กลายเป็นข่าวใหญ่ Character.ai ได้มีการเปลี่ยนแปลงหลายอย่างบนแพลตฟอร์ม เช่น การจำกัดเนื้อหาบางประเภทสำหรับผู้เยาว์ การเพิ่มข้อความแจ้งเตือนเมื่อใช้งานเกินหนึ่งชั่วโมง และเพิ่มข้อความปฏิเสธความรับผิดชอบ

อย่างไรก็ตาม ศาลยังคงให้โอกาสในการไต่สวนต่อไปเพื่อหาข้อเท็จจริงเพิ่มเติมเกี่ยวกับบทบาทและความรับผิดชอบของแต่ละฝ่ายในกรณีนี้