EU สั่งเชือด ! เปิดฉากสอบสวน “Grok AI” พ่นภาพอนาจาร-ตัดต่อภาพโป๊เด็ก

การสอบสวนในครั้งนี้พุ่งเป้าไปที่ฟังก์ชันของ กร็อก (Grok) ที่ยอมให้ผู้ใช้สามารถตัดต่อภาพเปลือยของผู้หญิงและเด็ก รวมถึงการจัดวางในท่าทางล่อแหลม โดยข้อมูลจากศูนย์ต่อต้านความเกลียดชังทางดิจิทัล (CCDH) ระบุว่า กร็อก (Grok) ได้สร้างภาพทางเพศไปแล้วกว่า 3 ล้านภาพในเวลาไม่ถึงสองสัปดาห์ โดยในจำนวนนั้นมีกว่า 23,000 ภาพ ที่ดูเหมือนจะเป็นภาพเด็ก

ทั้งนี้คณะกรรมาธิการยุโรปจะดำเนินการตรวจสอบภายใต้ กฎหมายบริการดิจิทัล (Digital Services Act - DSA) เพื่อประเมินว่า เอ็กซ์ (X) ได้มีมาตรการลดความเสี่ยงที่เพียงพอหรือไม่ โดยเฉพาะการจัดการกับเนื้อหาที่ผิดกฎหมาย และการทำภาพปลอมแปลงที่ไม่ได้รับความยินยอม ซึ่งถือเป็นการละเมิดสิทธิและศักดิ์ศรีความเป็นมนุษย์อย่างร้ายแรง

แม้ว่าก่อนหน้านี้ เอ็กซ์ (X) จะพยายามแก้ปัญหาด้วยการจำกัดการใช้งานกร็อก (Grok) เฉพาะผู้ใช้ที่ชำระเงิน หรือประกาศเพิ่มมาตรการป้องกันการแก้ไขภาพบุคคลจริง แต่เจ้าหน้าที่อียูระบุว่ามาตรการเหล่านี้ยังไม่น่าเชื่อถือและไม่สามารถขจัดความกังวล เกี่ยวกับความปลอดภัยของระบบได้

นอกจากเรื่องภาพอนาจารแล้ว อียูยังขยายผลการสอบสวนไปถึง ระบบแนะนำเนื้อหา (Recommender Systems) ที่เปลี่ยนมาใช้โมเดลของกร็อก (Grok) ในการคัดกรองข้อมูล ซึ่งอาจส่งผลต่อการแพร่กระจายเนื้อหาที่เป็นอันตรายในวงกว้าง

การขยับตัวของอียูในครั้งนี้ ถูกมองว่าเป็นสัญญาณเตือนครั้งสำคัญไปยังแพลตฟอร์มบิ๊กเทคทั่วโลก ว่าการพัฒนานวัตกรรม AI จะต้องมาพร้อมกับความรับผิดชอบและความปลอดภัย มิเช่นนั้นจะต้องเผชิญกับบทลงโทษทางกฎหมาย ที่อาจจะกลายเป็นการก้าวพลาดครั้งใหญ่ขององค์กร