Chatbot AI Grok thuộc sở hữu của tỷ phú Elon Musk (Ảnh: India Today).
Nguyên nhân xuất phát từ việc công cụ này thiếu các biện pháp kiểm soát chặt chẽ, dẫn đến sự bùng nổ của các video khiêu dâm giả mạo.
Theo báo cáo mới được NBC News công bố, Apple đã từng gửi một tối hậu thư tới đội ngũ phát triển Grok - chatbot trí tuệ nhân tạo thuộc sở hữu của Elon Musk.
Gã khổng lồ công nghệ Mỹ đe dọa sẽ gỡ bỏ ứng dụng này khỏi App Store nếu không có biện pháp ngăn chặn triệt để sự lan truyền của các video khiêu dâm giả mạo (Deepfake) không có sự đồng ý của nạn nhân.
Đây được xem là một động thái thể hiện quyền lực cứng rắn nhưng đầy kín đáo của Apple.
NBC News thông tin, trong một bức thư gửi các Thượng nghị sĩ Mỹ, Apple xác nhận họ đã chủ động liên lạc với nhóm phát triển của cả X và Grok ngay sau khi tiếp nhận các khiếu nại và báo cáo về bê bối Deepfake.
Apple yêu cầu các nhà phát triển phải "thiết lập một lộ trình cụ thể nhằm cải thiện hệ thống kiểm duyệt nội dung".
Tại thời điểm đó, chatbot Grok của xAI được tích hợp tự do trên nền tảng X và hoạt động như một ứng dụng độc lập. Với cơ chế bảo vệ lỏng lẻo, người dùng có thể dễ dàng tạo và phát tán các video, hình ảnh "cởi đồ" giả mạo của người thật.
Đáng chú ý, đối tượng bị nhắm tới phần lớn là phụ nữ, trong đó có cả những hình ảnh nghi vấn là trẻ vị thành niên.
Những hành vi này bị coi là vi phạm nghiêm trọng và trực diện vào các quy tắc cộng đồng nghiêm ngặt của App Store.
Tuy nhiên, thay vì lên tiếng công khai, cả Apple và Google (thông qua Google Play) đều chọn cách xử lý kín trong khi vẫn tiếp tục thu lợi nhuận từ các ứng dụng này trên cửa hàng trực tuyến của mình.
Apple cho biết họ đã tiến hành rà soát hàng loạt đề xuất thay đổi từ X và Grok. Trong khi X được đánh giá là đã khắc phục đáng kể các vi phạm, thì Grok ban đầu vẫn bị coi là "chưa tuân thủ".
Apple đã đưa ra cảnh báo cuối cùng: Nếu không thực hiện thêm các thay đổi cần thiết, ứng dụng sẽ bị xóa sổ khỏi App Store.
Sau nhiều vòng đàm phán, Apple mới chính thức xác nhận Grok có "cải thiện đáng kể" và phê duyệt cho ứng dụng này tiếp tục hoạt động.
Tuy nhiên, các biện pháp cải tiến này dường như vẫn mang tính chất đối phó. Để đáp ứng yêu cầu của Apple, Grok đã triển khai các thay đổi như: Giới hạn quyền sử dụng Grok trên mạng xã hội X cho người dùng trả phí, cố gắng ngăn chặn AI chỉnh sửa ảnh phụ nữ và cho phép người dùng tùy chọn chặn Grok can thiệp vào ảnh cá nhân.
Theo The Verge, những rào cản này rất dễ bị vượt qua. Bất chấp những tuyên bố về việc thắt chặt bảo vệ từ xAI, các chuyên gia an ninh mạng vẫn có thể tạo ra hình ảnh khiêu dâm của những người nổi tiếng và các chính trị gia bằng công cụ này một cách tương đối đơn giản.
