แชตบอตปัญญาประดิษฐ์ AI ที่เลียนเสียงบุคคลที่มีชื่อเสียง ที่ให้บริการบนแพลตฟอร์มของ Meta (Meta’s celebrity-voiced chatbots) อย่าง Facebook และ Instagram อาจจะพูดคุยเรื่องที่มีเนื้อหาชี้นำทางเพศอย่างชัดเจนกับผู้ใช้งานที่มีอายุต่ำกว่าเกณฑ์ที่กฎหมายกำหนดได้ ตามการรายงานของสำนักข่าววอลล์สตรีทเจอร์นัล (Wall Street Journal)
สรุปข่าว
แชตบอตปัญญาประดิษฐ์ AI ที่เลียนเสียงบุคคลที่มีชื่อเสียง ที่ให้บริการบนแพลตฟอร์มของ Meta (Meta’s celebrity-voiced chatbots) อย่าง Facebook และ Instagram อาจจะพูดคุยเรื่องที่มีเนื้อหาชี้นำทางเพศอย่างชัดเจนกับผู้ใช้งานที่มีอายุต่ำกว่าเกณฑ์ที่กฎหมายกำหนดได้ ตามการรายงานของสำนักข่าววอลล์สตรีทเจอร์นัล (Wall Street Journal)
โดยสำนักข่าววอลล์สตรีทเจอร์นัล (Wall Street Journal) ระบุในรายงานว่า ทีมข่าวได้ดำเนินการทดลองการสนทนากับแชตบอต ที่เลียนเสียงบุคคลที่มีชื่อเสียง (Meta’s celebrity-voiced chatbots) หลายครั้งเป็นระยะเวลาหลายเดือน ภายหลังจากที่ได้รับทราบถึงข้อกังวลภายในองค์กรเกี่ยวกับมาตรการคุ้มครองผู้เยาว์ที่ไม่เพียงพอ
โดยหนึ่งในกรณีตัวอย่างของการทดลองสนทนากับแชตบอต ที่ตั้งค่าให้ใช้เสียงของ นายจอห์น ซีนา นักแสดงและนักมวยปล้ำที่มีชื่อเสียง มันได้ทำการบรรยายสถานการณ์ทางเพศที่มีลักษณะส่อไปในทางลามกอนาจาร กับผู้ใช้งานที่มีอายุเพียง 14 ปี และในอีกสถานการณ์หนึ่ง AI ได้สมมุติสถานการณ์ว่ามีเจ้าหน้าที่ตำรวจ ได้ จับกุมนายซีนา ขณะที่อยู่กับ แฟนคลับวัย 17 ปี และพูดกับนายซีนาว่า "จอห์น ซีนา คุณถูกจับกุมในข้อหาพรากผู้เยาว์"
สถานะการณ์เหล่านี้ชี้ให้เห็นว่า แชตบอต AI ที่ใช้เสียงของคนดัง สามารถสร้างบทสนทนาที่ไม่เหมาะสมได้ โดยในตัวอย่างนี้ มีทั้งการบรรยายเนื้อหาทางเพศโดยตรง และการสร้างสถานการณ์สมมติที่เกี่ยวข้องกับการกระทำผิดทางเพศกับผู้เยาว์ได้
โดยภายหลังโฆษกของ Meta ได้ออกมากล่าวถึงการทดสอบของสำนักข่าววอลล์สตรีทเจอร์นัลว่าเป็นสถานการณ์ที่ "ถูกสร้างขึ้นอย่างจงใจจนเกินเลยความเป็นจริง และเป็นเพียงสมมติฐาน" ทางบริษัทได้ประมาณการว่าในช่วงเวลา 30 วันที่ผ่านมา เนื้อหาที่มีลักษณะทางเพศคิดเป็นสัดส่วนเพียง 0.02% ของการตอบกลับทั้งหมดที่ส่งผ่าน Meta AI และ AI Studio ให้แก่ผู้ใช้งานที่มีอายุต่ำกว่า 18 ปี
อย่างไรก็ตามรายงานดังกล่าวได้จุดประกายความกังวลเกี่ยวกับความปลอดภัยของผู้เยาว์บนแพลตฟอร์มดิจิทัล และความรับผิดชอบของผู้พัฒนาเทคโนโลยีในการป้องกันการเข้าถึงเนื้อหาที่ไม่เหมาะสมและการปฏิสัมพันธ์ที่เป็นอันตราย
ที่มาข้อมูล : https://techcrunch.com/2025/04/27/report-finds-metas-celebrity-voiced-chatbots-could-discuss-sex-with-minors/
ที่มารูปภาพ : Meta
