Dùng AI tạo clip để lợi dụng kêu gọi từ thiện
Mới đây, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (PA05), Công an TP.HCM, cho biết đã xử lý T.T.H (ở P.An Khánh) và N.T.M.D (ở P.Tân Sơn Nhất) đăng tải và chia sẻ thông tin sai sự thật trên mạng xã hội (MXH), được tạo dựng bằng AI, gây ảnh hưởng đến uy tín tổ chức, danh dự cá nhân và tiềm ẩn nguy cơ tác động tiêu cực đến an ninh, trật tự.
PA05 cho biết, trên MXH lan truyền nhiều bài viết, hình ảnh và video với nội dung "Nghệ sĩ/MC Quyền Linh bị Công an TP.HCM ra lệnh bắt tạm giam", thu hút sự chú ý của dư luận. Qua xác minh và phân tích kỹ thuật, PA05 xác định đây là thông tin hoàn toàn bịa đặt, được dựng bằng công nghệ AI, lồng ghép hình ảnh và dữ liệu giả mạo nhằm gây hiểu nhầm và dẫn dắt dư luận theo hướng tiêu cực.
Công an TP.HCM xử lý TikToker đăng tải, chia sẻ thông tin sai sự thật về nghệ sĩ Quyền Linh
ẢNH: CÔNG AN CUNG CẤP
Ngày 27.3, PA05 Công an tỉnh Điện Biên đã ra quyết định xử phạt hành chính đối với ông Q. (ở P.Điện Biên Phủ, quản trị viên fanpage "Checkin Điện Biên") về hành vi cung cấp, chia sẻ thông tin giả mạo, sai sự thật được tạo bằng AI trên Facebook gây hoang mang dư luận. Trước đó, ngày 20.3, fanpage "Checkin Điện Biên" (có hơn 54.000 người theo dõi) đăng tải bài viết với nội dung "bé trai bị người lạ đưa đi" trên địa bàn tỉnh, kèm theo đoạn video dài khoảng 8 giây được tạo dựng bằng AI.
Thông tin mang tính giật gân, chưa được kiểm chứng đã nhanh chóng lan truyền, thu hút lượng lớn tương tác, bình luận và chia sẻ, gây hoang mang trong dư luận, ảnh hưởng đến tình hình an ninh, trật tự tại địa phương. Qua xác minh, công an xác định đây là thủ đoạn đăng tải thông tin bịa đặt nhằm câu view, thu hút tương tác, sau đó lợi dụng để kêu gọi từ thiện. Đối tượng còn sử dụng một tài khoản để đăng tải nội dung gây chú ý, đồng thời dùng nhiều tài khoản ảo vào bình luận, tự nhận là người thân của nạn nhân nhằm tạo lòng tin.
Khi bài viết đạt lượng tương tác cao, nội dung tiếp tục được chỉnh sửa bằng AI theo hướng đăng tải thông tin về các trường hợp trẻ em hoặc người có hoàn cảnh khó khăn, kèm theo lời kêu gọi quyên góp. Đối tượng cũng thay đổi hình ảnh, đổi tên tài khoản để tăng độ tin cậy, đánh vào lòng trắc ẩn của cộng đồng mạng. Tại cơ quan công an, ông Q. thừa nhận toàn bộ hành vi vi phạm.
Quản trị viên fanpage “Checkin Điện Biên” làm việc với công an
ẢNH: CÔNG AN CUNG CẤP
Thực tế cho thấy, trước mức độ tinh vi này, không ít người dân thừa nhận họ đã "mất khả năng nhận diện". Nhiều trường hợp dù xem đi xem lại video nhiều lần vẫn không phát hiện được bất kỳ dấu hiệu bất thường nào trong các hình ảnh, video lan truyền trên mạng. Việc giả mạo này không chỉ gây thiệt hại kinh tế đặc biệt nghiêm trọng mà còn làm nhiễu loạn môi trường thông tin, ảnh hưởng trực tiếp đến an ninh, trật tự xã hội.
Hàng triệu trẻ em đối mặt với những rủi ro trên mạng
Thượng tá Đỗ Minh Kim nhận định sự bùng nổ công nghệ số, đặc biệt là AI đang được các đường dây tội phạm khai thác triệt để nhằm che giấu, mở rộng và chuyên nghiệp hóa hoạt động.
AI cho phép tạo ra, chỉnh sửa video bằng deepfake, giả giọng, thậm chí vận hành các chatbot đóng vai "trợ lý ảo" để môi giới, sắp xếp lịch hẹn và dựng chân dung phụ nữ để lừa khách. Khả năng dịch thuật tức thời của AI còn xóa mờ ranh giới ngôn ngữ, tạo điều kiện cho tội phạm mại dâm xuyên quốc gia diễn ra dễ dàng, kín kẽ và khó truy vết hơn.
"Bên cạnh đó, quá trình phối hợp cung cấp dữ liệu phục vụ truy vết, điều tra và thu thập chứng cứ số còn chậm, thiếu tính ổn định. Những hạn chế này đang ảnh hưởng trực tiếp đến hiệu quả xử lý các vụ việc xâm hại trẻ em trên không gian mạng. Trước tình hình tội phạm mạng diễn biến phức tạp, VN đã xác định an ninh mạng và phòng, chống tội phạm mạng là nhiệm vụ trọng tâm, cấp bách trong bảo vệ an ninh quốc gia và trật tự an toàn xã hội", thượng tá Kim nhấn mạnh. (còn tiếp)
A05 cho biết, tại VN có 82% trẻ em từ 12 - 13 tuổi và 93% trẻ em 14 - 15 tuổi sử dụng internet mỗi ngày, phần lớn thiếu kỹ năng phản ứng khẩn cấp khi gặp nguy cơ. Trong đó, trẻ em 12 - 15 tuổi dành trung bình 3 - 4 giờ/ngày trên các nền tảng trực tuyến như Zalo, Facebook, TikTok, YouTube... Hiện các nền tảng MXH, diễn đàn kín và nhóm ẩn danh ngày càng trở thành nơi chia sẻ, giao dịch nội dung xâm hại trẻ em. Chỉ trong giai đoạn năm 2020 - 2023 có tới gần 7.900 trẻ em bị bạo lực và lạm dụng, trong đó hơn 80% liên quan đến xâm hại tình dục. Năm 2024, VN ghi nhận 381 vụ xâm hại tình dục qua mạng, chủ yếu bắt nguồn từ việc khai thác thông tin cá nhân trên Facebook và Zalo.
