Tung công nghệ AI mới nhất, Facebook có ngăn chặn được video khiêu dâm?

Facebook thông báo vừa cho ra công cụ AI mới cho phép phát hiện, kiểm soát tốt hơn các nội dung khiêu dâm. Tuy nhiên không phải không có cớ hoài nghi khi mạng xã hội này từng dùng AI nhưng trong nhiều trường hợp lại... vô dụng.

Facebook vừa đưa vào áp dụng công nghệ AI mới nhất, giúp các nạn nhân của các bài đăng nhạy cảm có thêm thời gian và có thể gỡ bài viết. Đây được xem là động thái mới nhất của Facebook để loại bỏ nội dung lạm dụng trên nền tảng.

Nỗ lực tích cực này của Facebook đang cứu vãn hình ảnh của mạng xã hội hơn 2 tỷ người dùng này. Doanh nghiệp mới đây chịu áp lực trước công chúng vì điều kiện làm việc của các nhân viên đánh giá nội dung, những người ký hợp đồng với Facebook để kiểm duyệt bài đăng trên trang. Vì thế, công cụ AI thành công có thể là bước đi đúng hướng.

Tung công nghệ AI mới nhất, Facebook có ngăn chặn được video khiêu dâm? - 1

Facebook đang phát triển công nghệ AI để phát hiện video khiêu dâm.

“Việc phát hiện những hình ảnh này vượt ra ngoài việc phát hiện ảnh khỏa thân trên nền tảng của chúng tôi. Bằng cách sử dụng máy học và trí tuệ nhân tạo, chúng tôi có thể chủ động nhận biết hình ảnh hay video nude được chia sẻ mà không được phép trên Facebook, Instagram”, trưởng phòng an toàn toàn cầu Antigone Davis của Facebook cho biết.

Công cụ được đào tạo để nhận ra một bức ảnh “gần khỏa thân”, chẳng hạn như bức ảnh chụp với nội y, kết hợp với văn bản mang tính xúc phạm hoặc làm nhục, gây xấu hổ cho ai đó nếu nó được đăng tải lên mạng. Nội dung dạng này thường được dùng để gây rối hoặc trả thù người khác. Bài đăng sẽ được gắn cờ và gửi đến người đánh giá để xác nhận. Trong hầu hết các trường hợp, bài đăng gắn cờ bị phát hiện là vi phạm tiêu chuẩn cộng đồng của Facebook. Tài khoản có liên quan sẽ bị vô hiệu hóa.

Doanh nghiệp Mỹ cũng cho hay họ đang mở rộng chương trình thí điểm đã được công bố trước đây, vốn cho phép người dùng Facebook tải lên và đánh dấu hình ảnh mà họ sợ rằng có thể được đăng dưới dạng nội dung khiêu dâm để trả thù. Ông Davis nói rằng công ty nhận được phản hồi tích cực cho chương trình, song đây chỉ là “lựa chọn khẩn”.

Việc dùng công nghệ AI để phát hiện ảnh khỏa thân tuy rất đáng ghi nhận nhưng cũng không phải không có vấn đề. Facebook từng bị khiếu nại liên quan tới các bức ảnh thời sự. Do nhân vật trong ảnh ở trần, những bức ảnh đã bị AI kiểm duyệt và đưa vào danh sách bài viết vi phạm.

Bức ảnh "Em bé Napalm" từng bị Facebook loại bỏ do AI nhận diện nhầm.

Một ví dụ gần gũi với chúng ta là bức ảnh "Em bé Napalm" nổi tiếng của Nick Út. Đây là bức ảnh từng đoạt giải Pulitzer năm 1972. Bức ảnh khắc họa sự khốc liệt của cuộc chiến Việt Nam với hình ảnh một cô bé chín tuổi, da thịt và áo quần bị đốt cháy bởi bom đạn.

Tuy nhiên khi được đăng trên nền tảng của mạng xã hội này, bức ản đã bị hệ thống AI của Facebook nhận diện sai dẫn đến bị loại bỏ hoàn toàn.

Hệ thống AI cũng không phải không có sai sót trong những trường hợp khiêu dâm thực sự. Như vụ việc hồi tháng 11 năm ngoái, trên Facebook tràn lan một video khiêu dâm. Nhân vật chính sau đó khỏa thân một phần, góc máy quay cận vào bộ phận sinh dục để trần. Đoạn clip này vi phạm nghiêm trọng chính sách nội dung của Facebook về ảnh khỏa thân, khiêu dâm.

Tuy vậy, đoạn video này vẫn tồn tại sau hơn 18 giờ đăng tải và tiếp tục được lan truyền rộng rãi trên mạng xã hội này.

Sau 18 giờ đăng tải, video trên nhận được 18 triệu lượt xem, 130.000 lượt thích, 175.000 bình luận và 360.000 lượt chia sẻ. Đây là những số liệu cho thấy sự lan truyền chóng mặt của đoạn video khiêu dâm trên.

Thậm chí chủ tài khoản còn khoe chỉ sau 3 giờ đăng tải, đã có hơn 5.000 người theo dõi tài khoản của người này. Sau 18 giờ, tài khoản đang tài video nhận được hơn 30.000 lượt theo dõi.

Người viết đã báo cáo (report) với Facebook về nội dung này theo cách người dùng có thể làm. Tuy nhiên, sau hơn 3 giờ, nội dung trên vẫn hiển thị và lan truyền.

Một đại diện của Facebook từng nêu báo cáo, từ tháng 7- 9/2018, mạng xã hội này đã xóa 8,7 triệu bài viết liên quan tới các nội dung khiêu dâm và lạm dục tình dục trẻ em. Các chủ tài khoản phát tán nội dung này cũng bị loại bỏ khỏi hệ thống của Facebook.

Hiện, Facebook đã ra yêu cầu người dùng mạng xã hội phải có độ tuổi từ 13 trở lên. Biện pháp này không ngăn chặn được hoàn toàn nhưng cũng giúp giới hạn phần nào đó các bài post liên quan tới trẻ em trên Facebook. AI sẽ giúp mạng xã hội này làm nốt việc còn lại khi chặn lọc các nội dung liên quan tới hành vi lạm dụng trẻ em.

Dù CEO Facebook Mark Zucekerberg từng khẳng định mạng xã hội này đã có thể kiểm duyệt gần như toàn bộ ảnh khỏa thân bằng trí thông minh nhân tạo. Tuy nhiên thực tế cho thấy Facebook cần đầu tư nhiều thời gian và nỗ lực nghiên cứu hơn nữa trước những nội dung độc hại như thế này.