Grok dừng tạo ảnh nhạy cảm về người thật

"Chúng tôi đã triển khai biện pháp kỹ thuật để ngăn tài khoản Grok chỉnh sửa hình ảnh người thật mặc trang phục hở hang như bikini. Hạn chế này áp dụng cho mọi người dùng, gồm cả người dùng trả phí", xAI thông báo trên X.

Công ty cũng thông báo cam kết biến X thành nền tảng an toàn cho mọi người và không khoan nhượng với mọi hình thức lạm dụng tình dục trẻ em, khỏa thân không có sự đồng thuận và nội dung tình dục không mong muốn. Ngoài ra, việc tạo và chỉnh sửa ảnh thông qua tài khoản Grok trên nền tảng X hiện chỉ dành cho người dùng trả phí.

Thông báo được đưa ra vài giờ sau khi Tổng chưởng lý California Rob Bonta cho biết văn phòng của ông đang điều tra xAI liên quan đến việc công ty này bị cáo buộc "sản xuất hàng loạt hình ảnh deepfake nhạy cảm mà không có sự đồng thuận".

Trước đó, Ấn Độ, Malaysia, Indonesia, Ireland, Anh, Pháp, Australia và Ủy ban châu Âu (EC) cũng thông báo mở cuộc điều tra về vấn đề tương tự. Tại Mỹ, ba thượng nghị sĩ đảng Dân chủ kêu gọi Apple và Google gỡ X và Grok khỏi cửa hàng ứng dụng cho đến khi xAI thực hiện những thay đổi nhằm ngăn chặn việc dễ dàng tạo ảnh nhạy cảm.

Trong khi đó, Elon Musk, CEO xAI, ngày 14/1 khẳng định không hay biết về bất kỳ "hình ảnh khỏa thân của người chưa đủ tuổi" nào do Grok tạo ra. Ông nhắc lại rằng Grok được lập trình để từ chối những yêu cầu bất hợp pháp và phải tuân thủ luật pháp của mỗi bang hoặc mỗi quốc gia. "Rõ ràng là Grok không tự động tạo ra hình ảnh, nó chỉ làm vậy theo yêu cầu của người dùng", ông nói.

Hồi đầu tháng, Musk cũng thông báo trên X rằng bất cứ ai dùng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả giống như khi tải lên mạng nội dung bất hợp pháp.

xAI ra mắt tính năng tạo ảnh và video từ câu lệnh Grok Imagine và "chế độ gợi cảm" (Spicy Mode) vào tháng 8/2025. Theo Mashable, so với nhiều nền tảng khác vốn kiểm soát nghiêm ngặt, AI này "dễ dãi" và "ít bị kiềm chế" hơn trong việc tạo ảnh khiêu dâm, còn X là nơi lan truyền chúng một cách thiếu kiểm duyệt.

Thu Thảo (Theo CNBC, Guardian)