เอ็กซ์ เป็นอันต้องถอยหลังแอปเปิลขู่ว่าจะถอดแอปพลิเคชันออกจากแอป สโตร์ ในกรณีการไม่ควบคุมรูปภาพที่ไม่เหมาะสม
แอปเปิล เจ้าของแพลตฟอร์มแอป สโตร์ (App Store) ได้ยื่นคำขาดผ่านการส่งจดหมายถึงวุฒิสภาสหรัฐฯ ให้เอ็กซ์ (X) หรือทวิตเตอร์ (Twitter) เดิม แก้ไขแอปพลิเคชัน Grok โดยด่วน มิเช่นนั้นเอ็กซ์มีความเสี่ยงที่จะถูกถอดออกจากสโตร์ หลังจากพบว่า Grok ถูกนำไปใช้สร้างรูปภาพ Deepfake ทางเพศของบุคคลจริงโดยไม่ได้รับความยินยอม ซึ่งถือเป็นการละเมิดนโยบายความปลอดภัยอย่างร้ายแรง
ประเด็นอื้อฉาวนี้ เริ่มขึ้นเมื่อผู้ใช้งานบางกลุ่มพยายามใช้ Grok แก้ไขภาพบุคคลจริงให้อยู่ในชุดบิกินี หรือชุดชั้นใน ซึ่งรวมถึงภาพของเยาวชนด้วย ทำให้แอปเปิลตัดสินใจปฏิเสธการส่งอัปเดตแอปในช่วงแรกเนื่องจากมาตรการคัดกรองเนื้อหายังไม่ผ่านเกณฑ์ แม้ว่า อีลอน มัสก์ จะเคยแสดงท่าทีคัดค้านการเพิ่มตัวกรองโดยมองว่าเป็นการเซ็นเซอร์ที่เกินไป แต่สุดท้ายก็ต้องยอมจำนนเมื่อรัฐบาลในหลายประเทศ เช่น อินโดนีเซีย และสหราชอาณาจักร รวมถึงอัยการสูงสุดของแคลิฟอร์เนีย เริ่มขยับเข้ามาตรวจสอบและสั่งแบนการใช้งาน
ปัจจุบัน X ได้ดำเนินการสั่งห้ามสร้างรูปภาพเชิงเพศผ่านบริการ AI อย่าง Grok โดยเด็ดขาด และเพิ่มฟีเจอร์ให้ผู้ใช้สามารถบล็อกไม่ให้ AI นำรูปภาพสาธารณะไปแก้ไขได้
...
อย่างไรก็ตาม ยังมีรายงานว่าผู้ใช้บางส่วนยังคงสามารถเลี่ยงตัวกรองเพื่อสร้างภาพที่ล่อแหลมให้ได้ แต่เอ็กซ์ยืนยันว่า ได้ติดตั้งระบบตรวจสอบแบบเรียลไทม์ และอัปเดตโมเดลอย่างต่อเนื่องเพื่อป้องกันการใช้งานในทางที่ผิดอย่างเข้มงวด
ที่มา: PC Mag