Apple ขู่ถอดแอป Grok จาก App Store หลังพบใช้ AI สร้าง Deepfake ภาพอนาจาร
แอปเปิล ผู้ให้บริการแพลตฟอร์ม App Store ได้ยื่นคำขาดผ่านจดหมายถึงวุฒิสภาสหรัฐฯ ให้ เอ็กซ์ (X) หรือทวิตเตอร์เดิม แก้ไขแอปพลิเคชัน Grok โดยด่วน มิเช่นนั้นจะเสี่ยงถูกถอดออกจากสโตร์ หลังพบว่า Grok ถูกนำไปใช้สร้างรูปภาพ Deepfake ทางเพศของบุคคลจริงโดยไม่ได้รับความยินยอม ซึ่งถือเป็นการละเมิดนโยบายความปลอดภัยอย่างร้ายแรง
จุดเริ่มต้นของประเด็นอื้อฉาว
ประเด็นนี้เริ่มขึ้นเมื่อผู้ใช้งานบางกลุ่มพยายามใช้ Grok แก้ไขภาพบุคคลจริงให้อยู่ในชุดบิกินีหรือชุดชั้นใน ซึ่งรวมถึงภาพของเยาวชนด้วย ทำให้แอปเปิลตัดสินใจปฏิเสธการส่งอัปเดตแอปในช่วงแรก เนื่องจากมาตรการคัดกรองเนื้อหายังไม่ผ่านเกณฑ์ แม้ว่า อีลอน มัสก์ จะเคยแสดงท่าทีคัดค้านการเพิ่มตัวกรอง โดยมองว่าเป็นการเซ็นเซอร์ที่เกินไป แต่สุดท้ายก็ต้องยอมจำนนเมื่อรัฐบาลในหลายประเทศ เช่น อินโดนีเซียและสหราชอาณาจักร รวมถึงอัยการสูงสุดของแคลิฟอร์เนีย เริ่มขยับเข้ามาตรวจสอบและสั่งแบนการใช้งาน
มาตรการตอบโต้จาก X
ปัจจุบัน X ได้ดำเนินการสั่งห้ามสร้างรูปภาพเชิงเพศผ่านบริการ AI อย่าง Grok โดยเด็ดขาด และเพิ่มฟีเจอร์ให้ผู้ใช้สามารถบล็อกไม่ให้ AI นำรูปภาพสาธารณะไปแก้ไขได้ อย่างไรก็ตาม ยังมีรายงานว่าผู้ใช้บางส่วนยังคงสามารถเลี่ยงตัวกรองเพื่อสร้างภาพที่ล่อแหลมได้ แต่เอ็กซ์ยืนยันว่า ได้ติดตั้งระบบตรวจสอบแบบเรียลไทม์ และอัปเดตโมเดลอย่างต่อเนื่องเพื่อป้องกันการใช้งานในทางที่ผิดอย่างเข้มงวด
สถานการณ์นี้สะท้อนถึงความท้าทายในการควบคุมเทคโนโลยี AI ที่อาจถูกนำไปใช้ในทางที่ผิด โดยเฉพาะการสร้างเนื้อหาที่ละเมิดความเป็นส่วนตัวและความปลอดภัยของผู้ใช้ ซึ่งอาจนำไปสู่ผลกระทบทางกฎหมายและสังคมในวงกว้าง หากไม่มีการจัดการที่เหมาะสมจากผู้ให้บริการแพลตฟอร์ม
