Triệt phá đường dây cả vạn 'Cậu bé Tiểu Hải' lừa đảo

Công nghệ AI của Trung Quốc ngày càng phát triển, các phương thức lừa đảo càng tinh vi hơn. Đối tượng chúng nhắm đến thường là những người già, trẻ em, phụ nữ lớn tuổi giàu lòng thương người.

Tân Hoa Xã đưa tin thời gian gần đây một lượng lớn video về nhân vật "Tiểu Hải" xuất hiện lan tràn trên các nền tảng video ngắn tại Trung Quốc.

Bằng cách kể lại những câu chuyện bi thương về cuộc đời mình như được nuôi dưỡng bởi cha mẹ đơn thân, sống trong nghèo khó và những hoàn cảnh bi đát khác, "Tiểu Hải" khiến nhiều khán giả lớn tuổi thương cảm không cầm được nước mắt, sau đó đặt hàng để giúp đỡ họ.

Phương thức lừa đảo tinh vi

Theo Global Times, hồi tháng 5, cảnh sát đường sắt tại Urumqi, Tân Cương đã phát hiện một người phụ nữ 79 tuổi đi tàu một mình với vẻ mặt lo lắng. Khi được hỏi han, người phụ nữ này chia sẻ bà bị mù chữ nên không thể nói rõ địa điểm đến của mình, chỉ biết rằng bà muốn đến Vân Thành, Sơn Tây để thăm họ hàng, là một đứa trẻ nghèo thường gọi bà là "dì" qua điện thoại mỗi ngày.

"Tiểu Hải" còn mời bà đến Sơn Tây, Trung Quốc để thưởng thức hoa và ăn nấm mỡ, vì vậy người phụ nữ này không quản ngại xa xôi mà đi tìm cháu. Nhờ sự thuyết phục của cảnh sát, người phụ nữ này cuối cùng cũng xuống tàu và mua vé khứ hồi về nhà.

Trường hợp này diễn ra khá thường xuyên gần đây trên các nền tảng video ngắn Trung Quốc. Theo CCTV News, những "người trẻ chu đáo" này thực chất không hề tồn tại, họ đều là "người kỹ thuật số" được tổng hợp từ trí tuệ nhân tạo.

Các cháu "Tiểu Hải" rất chu đáo, quan tâm người già, giới thiệu những sản phẩm chăm sóc sức khỏe tốt cho các khán giả trung niên.

Những nhân vật thiếu niên AI được tạo ra để thể hiện những câu chuyện đầy kịch tính về cuộc sống khổ cực nhưng vẫn ngoan ngoãn, hiểu chuyện và rất quan tâm tới các bà, các mẹ, các dì.

Nhưng thực tế, đây là phương thức bán hàng mới, trong một video giới thiệu sản phẩm, "Tiểu Hải" hóa thân thành "người em họ chu đáo" thấu hiểu tâm tư của người lớn tuổi và bắt đầu giới thiệu cho họ các sản phẩm chăm sóc sức khỏe.

Theo Sinchew, một lượng lớn các video AI đã được tạo ra ở các khu vực khác với, với nhiều câu chuyện bi kịch. Cốt truyện về cuộc đời cậu bé "Tiểu Hải" rất đa dạng như thứ hạng bị tụt dốc sau cuộc thi, phải nhập viện vì bệnh nặng, bị bạn bè bắt nạt, nhưng kết thúc đều dẫn đến các đường link liên kết mua sắm.

Các sản phẩm thường không quá đắt đỏ, chủ yếu là thực phẩm, đồ dùng gia đình, các loại trang sức giá trị thấp, nhắm tới những người phụ nữ lớn tuổi, giàu lòng trắc ẩn.

Nghiên cứu cho biết hoa hồng đối với một số sản phẩm có thể lên tới 52%-55% so với giá bán. Ví dụ, giá xuất xưởng của hai chai dầu hạt tía tô chỉ khoảng 34 NDT, trên các nền tảng thương mại điện tử sẽ có giá từ 60-70 NDT, còn trên link liên kết của "Tiểu Hải" lại để mức 99 NDT.

Báo cáo của Sinchew cho biết chi phí để tạo ra những video như vậy rất thấp, các hướng dẫn để viết kịch bản, xây dựng nhân vật "Tiểu Hải" thậm chí còn được rao bán trực tuyến và chỉ mất khoảng 10 phút có thể tạo ra một "Tiểu Hải" mới trên hai nền tảng.

Một giờ sau, video này có thể thu hút khoảng 300-550 lượt xem, hầu hết là phụ nữ trung niên và cao tuổi. Có người khoe rằng ngày thấp nhất họ cũng kiếm được 3.000 NDT tiền hoa hồng từ các video lừa đảo.

Các nhà sáng tạo kiếm hàng nghìn - chục nghìn NDT mỗi ngày nhờ việc tạo video về "Tiểu Hải" với cuộc sống khó khăn, thu hút sự thương cảm của khán giả.

Xử lý "Tiểu Hải"

Ngày 23/10, tờ Thời báo Bắc Kinh cho biết nền tảng Douyin đã đăng tải Thông báo về chiến dịch đặc biệt Dọn dẹp và chấn chỉnh tình trạng giả mạo danh tính trên video ngắn.

Theo đó, từ ngày 1/10-22/10, Douyin đã xử lý 20.000 tài khoản vi phạm và xóa hơn 47.000 video có nội dung lừa đảo.

Điển hình như một tài khoản bịa đặt về việc "người bạn qua đời khi bị tai nạn xe máy điện", một tài khoản khác đóng "người ông đang chăm cháu ốm", hay "chăm lo cho người vô gia cư". Vô số "Tiểu Hải" đã bị xóa bỏ.

Douyin còn siết chặt việc quản lý nội dung, xóa bỏ các video có nội dung như: giả người yếu thế để lôi kéo lượt theo dõi, ngụy tạo bằng cấp, đăng nội dung mang tính chuyên môn, sử dụng AI mạo danh con người để tiếp thị, buôn bán sản phẩm, cổ xúy sự xa hoa, mê tín dị đoan nhằm trục lợi, dàn dựng những chuyện giật gân để lôi kéo tương tác.

Trung Quốc xóa gần 50.000 video có nội dung bịa đặt để kéo tương tác.

PGS. Triệu Tinh Võ, trường Đại học Luật thuộc Đại học hàng không vũ trụ Bắc Kinh chỉ ra rằng không có sự khác biệt giữa việc dùng nhân vật AI để bán hàng, với việc sử dụng người thật. Nếu các doanh nghiệp cố tình bịa đặt các câu chuyện và sử dụng lời kể sai sự thật để thu hút sự đồng cảm của công chúng, họ có thể phạm tội lừa đảo.

Ông cũng nhấn mạnh ngay cả khi video được dán nhãn "được tạo bởi AI", cũng không có nghĩa những người cao tuổi bị lừa đảo phải tự chịu trách nhiệm. Nếu những người điều hành cố tình nhắm vào nhu cầu tình cảm của người cao tuổi, bịa đặt câu chuyện để lấy nước mắt, thì có thể cấu thành hành vi lừa đảo ác ý.

Đối với toàn bộ chuỗi ngành, người điều hành các tài khoản hoặc phòng phát trực tiếp phải chịu trách nhiệm chính.

Cạm bẫy sau lớp vỏ hào nhoáng

Những hình ảnh giàu có, cuộc sống sang trọng và các mối quan hệ được dàn dựng trên mạng xã hội đang trở thành công cụ để xây dựng niềm tin giả tạo và...

Bấm xem >>