“Meta” ปัดตกมาตรการคุม “AI Chatbot” ปล่อยเยาวชนเสี่ยงบทสนทนาเชิงชู้สาว

สำนักข่าวรอยเตอร์รายงานว่าอัยการสูงสุดรัฐนิวเม็กซิโก ได้ยื่นฟ้องข้อกล่าวหาถึง เมตา (Meta) กรณีล้มเหลวในการสกัดกั้นเนื้อหาและการคุกคามทางเพศต่อเด็กบน เฟซบุ๊ก (Facebook) และ อินสตาแกรม (Instagram) โดยมีกำหนดพิจารณาคดีในเดือนหน้า ท่ามกลางวิกฤตสุขภาพจิตเยาวชนที่หลายฝ่ายมองว่าบริษัทยักษ์ใหญ่ด้านโซเชียลมีเดีย มีส่วนกระตุ้นให้รุนแรงขึ้น

เอกสารที่ยื่นต่อศาล ประกอบไปด้วยอีเมลและข้อความภายในของบริษัท ช่วงต้นปี 2024 ที่ระบุว่าทีมความปลอดภัยของ เมตา (Meta) เคยแสดงความกังวลว่า AI แชตบอตที่บริษัทพัฒนาอยู่ สามารถใช้พูดคุยเชิงโรแมนติกและทางเพศได้ และทีมยังเห็นพ้องว่าควรบล็อกไม่ให้ผู้ใช้งาน สามารถสร้างตัวละครแชตบอตที่มีลักษณะเป็นเด็ก เพื่อจุดประสงค์ทางเพศอีกด้วย

ซึ่งในตอนแรกทางฝ่ายของ มาร์ก ซักเกอร์เบิร์ก เห็นด้วยกับสิ่งนี้เช่นกัน โดยอ้างอิงจากข้อความของพนักงานในเดือนกุมภาพันธ์ 2024 ระบุว่าซีอีโอของ Meta เชื่อว่าควรปิดกั้น AI จากการสนทนาที่มีเนื้อหาทางเพศอย่างชัดเจน อย่างน้อยกับกลุ่มวัยรุ่น และไม่ควรให้ผู้ใหญ่สามารถโต้ตอบกับ AI ที่มีลักษณะเป็นเยาวชนอายุต่ำกว่า 18 ปี เพื่อวัตถุประสงค์ในเชิงชู้สาวได้

แต่ในขณะเดียวกัน ตามเอกสารในการสืบสวนครั้งนี้ยังระบุอีกว่า มาร์ก ซักเกอร์เบิร์ก ก็เป็นคนที่บอกให้ Meta ผ่อนปรนข้อจำกัดมากกว่าที่เสนอไป และกล่าวว่าเขาต้องการ อนุญาตให้ผู้ใหญ่ มีส่วนร่วมในการสนทนาที่มีหัวข้อเร้าใจมากขึ้น เช่น เรื่องเพศ และปฏิเสธการสร้างระบบควบคุมโดยผู้ปกครอง (Parental Controls) สำหรับแชตบอต AI เหล่านี้ด้วย

ทั้งนี้ทางโฆษกของ เมตา (Meta) ได้ออกมาปฏิเสธข้อกล่าวหาดังกล่าว โดยระบุว่าอัยการสูงสุดของรัฐนิวเม็กซิโก ใช้วิธีเลือกหยิบเฉพาะข้อมูลบางส่วนมาบิดเบือนข้อเท็จจริง และยืนยันว่าเอกสารเหล่านั้น มีส่วนที่แสดงให้เห็นว่ามาร์ก ซักเกอร์เบิร์ก ได้มีคำสั่งชัดเจนว่าไม่ควรมี AI ที่ลามกอนาจารสำหรับเด็ก และห้ามผู้ใหญ่ใช้ AI สร้างความสัมพันธ์เชิงชู้สาวกับเยาวชนไปแล้ว

แต่หลังจากเผชิญแรงกดดันอย่างหนักและการฟ้องร้องที่กำลังจะเข้าสู่ชั้นศาลในเดือนกุมภาพันธ์นี้ ล่าสุด เมตา (Meta) ก็ได้ตัดสินใจ ระงับการเข้าถึง AI แชตบอต สำหรับบัญชีผู้ใช้ที่เป็นเยาวชนทั้งหมด เมื่อช่วงสัปดาห์ที่ผ่านมา เพื่อปรับปรุงเวอร์ชันใหม่ให้มีความปลอดภัยและเหมาะสมยิ่งขึ้น