AI Grok tiếp tục bị phát hiện tạo ảnh khiêu dâm

Theo NBC News, hàng chục video khiêu dâm do người dùng tạo từ Grok đang xuất hiện công khai trên mạng xã hội X.

Đầu năm nay, nội dung AI này gây ra làn sóng phản đối, khi Grok cho phép người dùng tự do "cởi quần áo" người khác, hoặc ghép khuôn mặt vào các tư thế gợi dục, chỉ bằng cách tải ảnh lên và gõ câu lệnh mô tả.

Tuy nhiên, khác với hồi tháng 1, Grok hiện có sự kiểm soát, khi người dùng không thể yêu cầu AI đưa ra ảnh gợi dục đối với trẻ vị thành niên, hoặc ảnh khỏa thân hoàn toàn. "Nhưng khi ảnh nhạy cảm vẫn tiếp tục được tạo và lan truyền, chúng vẫn gây hại ở mức độ nhất định", Stefan Turkheimer, Phó chủ tịch phụ trách chính sách công tại RAINN, một nhóm vận động chống lại tấn công tình dục, cho biết.

"Chúng tôi nghiêm cấm người dùng tạo video deepfake khiêu dâm mà không được sự đồng ý, cũng như sử dụng công cụ của chúng tôi để cởi quần áo người thật", xAI viết trên X sau khi bài viết của NBC News đăng tải ngày 15/4. "xAI có biện pháp bảo vệ toàn diện để ngăn chặn việc lạm dụng như vậy, như giám sát liên tục, phân tích nỗ lực né tránh kiểm soát theo thời gian thực, cập nhật mô hình thường xuyên, tạo bộ lọc kiểm soát cũng như các biện pháp bảo vệ bổ sung khác".

xAI, startup trí tuệ nhân tạo của Elon Musk và hiện là công ty con của SpaceX, ra mắt tính năng tạo ảnh, video từ câu lệnh Grok Imagine và "chế độ gợi cảm" (Spicy Mode) vào tháng 8/2025. Theo Mashable, so với nhiều nền tảng khác vốn kiểm soát chặt, AI này "dễ dãi" hơn trong việc cho ra đời ảnh khiêu dâm, còn X là nơi lan truyền chúng một cách thiếu kiểm duyệt.

Hồi tháng 1, theo Register, xAI Grok nhận hàng loạt phản hồi tiêu cực khi cho phép người dùng tạo ảnh khỏa thân, ăn mặc hở hang từ ảnh thật, thậm chí với ảnh của trẻ em. Trung tâm Chống thù ghét kỹ thuật số (CCDH) của Mỹ ngày 22/1 công bố nghiên cứu cho thấy Grok sản xuất ba triệu ảnh khiêu dâm từ ngày 29/12/2025 đến 8/1/2026. Trong 11 ngày, ước tính Grok tạo khoảng 23.000 ảnh nhạy cảm về trẻ em, trung bình cứ 41 giây lại có một ảnh mới.

NBC News cho biết Apple cũng gửi thư cho các thượng nghị sĩ Mỹ ngày 30/1 về vấn đề của Grok. Ban đầu, công ty muốn loại X khỏi cửa hàng App Store, nhưng sau đó yêu cầu X và Grok đưa ra kế hoạch cải thiện việc kiểm duyệt nội dung. Sau lời đe dọa này, xAI đã gửi mã nguồn Grok cho Apple. "Sau quá trình trao đổi thêm và những thay đổi từ phía nhà phát triển, chúng tôi nhận thấy AI này đã cải thiện đáng kể. Do đó, chúng tôi chấp thuận bản đệ trình mới nhất của họ", theo nội dung thư của Apple gửi các thượng nghị sĩ.

"Việc tạo nội dung khiêu dâm không được sự đồng ý của công dân, gồm cả trẻ em, bằng bất kỳ công cụ trí tuệ nhân tạo nào là hành vi đáng ghê tởm và cần được giải quyết triệt để", Thượng nghị sĩ đảng Dân chủ Ben Ray Luján, một trong những người Apple gửi thư, nói với NYPost. "Các công ty như Apple và Google không được phép làm ngơ trước hành vi này".

Bảo Lâm