Triệt phá web khiêu dâm chứa hàng trăm ngàn ảnh, video tạo dựng bằng AI

Các nền tảng này đã phát tán hàng nhìn hình ảnh và video phụ nữ khoả thân hoặc đang tham gia hoạt động tình dục được tạo ra bằng AI.

Hiệp hội An ninh mạng Quốc gia (NCA) dẫn thông tin từ U.S. Department of Justice, CyberScoop, cho biết, giới chức Mỹ, Pháp và Ý vừa phối hợp triệt phá CFAKE và SOCFAKE - hai trang web bị cáo buộc phát tán nội dung khiêu dâm deepfake không có sự đồng thuận của nạn nhân quy mô xuyên biên giới.

AI đang bị lợi dụng để "chế" video khiêu dâm từ khuôn mặt của người khác.

Theo Bộ Tư pháp Mỹ, các nền tảng này đã phát tán hàng nhìn hình ảnh và video phụ nữ khoả thân hoặc đang tham gia hoạt động tình dục được tạo ra bằng AI và các công cụ chỉnh sửa kỹ thuật số mà không cần sự tham gia hay đồng ý của họ.

Điều đáng nói, không chỉ lợi dụng AI để tạo ra các hình ảnh và video trông như thật, dịch vụ này còn cho phép người dùng duyệt theo các chủ đề, bao gồm "hiếp dâm", "cưỡng bức" và "làm nhục".

Cuộc điều tra cho thấy mạng lưới này đã lưu trữ khoảng 300.000 hình ảnh, 7.000 video, các nội dung liên quan tới khoảng 14.000 cá nhân và khoảng 200.000 tài khoản người dùng. Các website thu hút trung bình 4 triệu lượt truy cập mỗi tháng và có khoảng 50 nội dung mới được đăng tải mỗi ngày.

Theo cơ quan chức năng, nạn nhân bao gồm nhiều phụ nữ là người nổi tiếng, chính trị gia, nhà báo, người dẫn chương trình, vận động viên và các nhân vật công chúng khác.

Hoa Kỳ đang triển khai chiến dịch "Take It Down" truy quét deepfake.

Các chuyên gia cảnh báo, sự phát triển của AI tạo sinh đang khiến việc tạo ra hình ảnh hoặc video giả mạo ngày càng dễ dàng hơn. Điều đáng lo ngại là nạn nhân có thể bị xâm phạm danh dự, nhân phẩm và quyền riêng tư ngay cả khi họ chưa từng chụp, đăng tải hay tham gia vào bất kỳ nội dung nào như vậy.

Vụ việc được xem là một trong những chiến dịch truy quét deepfake lớn nhất kể từ khi Đạo luật "Take It Down" của Mỹ có hiệu lực, cho phép truy tố hình sự các hành vi tạo lập hoặc phát tán nội dung khiêu dâm deepfake không có sự đồng thuận của người xuất hiện trong hình ảnh.

Robert Fraiser - Chưởng lý Hoa Kỳ khu vực New Jersey cho biết: "Vụ thu giữ này đã ngăn chặn một trang web chuyên buôn bán nội dung sỉ nhục, bóc lột và xâm phạm quyền riêng tư cá nhân trên quy mô lớn. Đối với các nạn nhân có hình ảnh bị phát tán mà không được sự đồng ý, tổn hại không chỉ là ảo mà còn là tổn hại sâu sắc về mặt cá nhân và thường kéo dài dai dẳng”.

Theo Văn phòng Công tố Paris, Cyrille B. - một công dân Pháp 47 tuổi đã bị bắt và bị buộc tội là quản trị viên của CFAKE. Khám xét nhà của ông ta ở Nice, cảnh sát tìm thấy máy tính liên quan đến trang web và hơn 48.000 USD tiền điện tử Ethereum mà họ cho là có được từ hoạt động quảng cáo của trang web.

Nghi phạm không có tiền án tiền sự và sẽ ra tòa vào ngày 7/7 tới đây. Các cáo buộc có thể dẫn đến mức án tù lên đến 7 năm và phạt tiền 500.000 EUR.