แพลตฟอร์ม X ของอีลอน มัสก์ ประกาศเพิ่มมาตรการความปลอดภัย สั่งระงับฟีเจอร์ของแชตบอต AI "Grok" ที่ใช้ตัดต่อภาพบุคคลจริงให้ดูเปลือยหรือสวมใส่เสื้อผ้าน้อยชิ้น หลังเผชิญแรงกดดันอย่างหนักจากรัฐบาลหลายประเทศและองค์กรสิทธิมนุษยชนที่ตรวจพบการสร้างภาพอนาจารของผู้หญิงและเด็ก
ทีมด้านความปลอดภัยของแพลตฟอร์ม X ประกาศใช้มาตรการทางเทคโนโลยีเพื่อป้องกันไม่ให้แชตบอต AI ชื่อดังอย่าง "Grok" สามารถแก้ไขหรือสร้างภาพบุคคลจริงในชุดล่อแหลม เช่น บิกินี ชุดชั้นใน หรือชุดที่คล้ายคลึงกัน โดยมาตรการนี้จะมีผลกับผู้ใช้งานทุกคน รวมถึงสมาชิกแบบชำระเงิน
การปรับเปลี่ยนครั้งใหญ่เกิดขึ้นหลังจากฟีเจอร์ที่เรียกว่า "Spicy Mode" ของ Grok ถูกวิพากษ์วิจารณ์อย่างหนักว่ายอมให้ผู้ใช้ใส่คำสั่งง่ายๆ เช่น "ให้เธอใส่บิกินี" หรือ "ถอดเสื้อผ้าเธอออก" เพื่อสร้างภาพ Deepfake เชิงอนาจารของบุคคลจริง รวมถึงเด็กและเยาวชน
ผลการวิเคราะห์ภาพจาก Grok มากกว่า 20,000 ภาพโดยองค์กรไม่แสวงหากำไร AI Forensics ในกรุงปารีส พบว่ากว่าครึ่งเป็นภาพบุคคลที่สวมเสื้อผ้าน้อยชิ้น ซึ่งส่วนใหญ่เป็นผู้หญิง และร้อยละ 2 ของภาพเหล่านั้นดูเหมือนเป็นผู้เยาว์
ปัจจุบัน xAI บริษัทผู้พัฒนา Grok กำลังถูกตรวจสอบอย่างหนักจากหลายหน่วยงาน โดยในสหรัฐฯ อัยการสูงสุดรัฐแคลิฟอร์เนียประกาศเริ่มการสืบสวน xAI ว่าละเมิดกฎหมายรัฐในประเด็นการสร้างภาพอนาจารโดยไม่ได้รับยินยอมหรือไม่ ขณะที่ผู้ว่าการรัฐแคลิฟอร์เนียประณามการปล่อยให้ภาพ Deepfake ระบาดว่าเป็นเรื่องที่ "น่ารังเกียจ" ส่วนสหภาพยุโรป คณะกรรมาธิการยุโรปกำลังเฝ้าระวังมาตรการใหม่ของ X อย่างใกล้ชิด เพื่อประเมินว่าจะสามารถปกป้องพลเมืองในอียูได้อย่างมีประสิทธิภาพจริงหรือไม่
...
ด้านอินโดนีเซีย เป็นประเทศแรกที่สั่งบล็อกการเข้าถึง Grok โดยสมบูรณ์ ตามมาด้วย มาเลเซีย ขณะที่ อินเดีย บังคับให้ X ลบโพสต์และบัญชีผู้ใช้งานที่เกี่ยวข้องกับภาพอนาจารเหล่านี้หลายพันรายการ และสหราชอาณาจักรและฝรั่งเศสได้เริ่มกระบวนการสืบสวนและส่งเรื่องให้พนักงานอัยการพิจารณาดำเนินคดีแล้ว
นอกจากเทคโนโลยีป้องกันการแก้ไขภาพบุคคลจริง X ยังได้ประกาศจำกัดสิทธิ์การสร้างและแก้ไขภาพผ่าน Grok ให้เฉพาะ "สมาชิกแบบชำระเงิน" เท่านั้น เพื่อสร้างชั้นการป้องกันพิเศษและช่วยให้ระบุตัวตนผู้ใช้งานได้ง่ายขึ้น
อย่างไรก็ตาม กลุ่มภาคประชาสังคมกว่า 28 แห่งได้รวมตัวกันยื่นจดหมายเปิดผนึกถึงซีอีโอของแอปเปิล และกูเกิล เพื่อเรียกร้องให้ถอดแอปพลิเคชัน X และ Grok ออกจากแอปสโตร์ เนื่องจากความกังวลว่ามาตรการที่ออกมาอาจไม่เพียงพอที่จะหยุดยั้งการแพร่กระจายของภาพตัดต่อลามกอนาจารในระยะยาว.
ที่มา BBC