Wednesday, January 19, 2022
HomeTiền Diện TửMối nguy từ trang 'lột đồ' bằng deepfake lớn nhất thế giới

Mối nguy từ trang ‘lột đồ’ bằng deepfake lớn nhất thế giới


Trang world-wide-web chuyên loại bỏ trang phục trong ảnh phụ nữ bằng deepfake đang vươn vòi bạch tuộc khắp nơi, bất chấp nổ lực ngăn chặn từ nhiều bên.

Theo Có dây, internet web page không được nêu tên đã tồn tại từ năm ngoái. Nó sử dụng AI để xóa quần áo trong các bức ảnh thông thường, tạo ra ảnh khỏa thân bằng công nghệ deepfake mà nạn nhân không hề hay biết.

Giới nghiên cứu nhận xét sản phẩm hoàn chỉnh “cực kỳ giống thật” và công cụ có khả năng tạo ảnh nude ngay cả khi người trong hình gốc mặc đầy đủ quần áo. Các công nghệ tương tự trước đó chỉ có tác dụng với những bức ảnh thiếu vải.

Ngày càng nhiều phụ nữ trở thành nạn nhân của deepfake. Ảnh: Đánh giá Công nghệ MIT

Web site này đang mở rộng dịch vụ trong những tháng gần đây, mang về hàng nghìn USD cho chủ sở hữu. Nó cũng cung cấp thuật toán cho “đối tác”, dẫn tới sự ra đời của hai trang web tương tự. Chủ sở hữu website cho biết mô hình chia sẻ công nghệ và phi tập trung hóa giúp nó tránh “bị ngừng dịch vụ hay đóng cửa bất ngờ”.

Cách tiếp cận này được cho là đã giúp web site không bị ngăn chặn. Dữ liệu từ Similarweb cho thấy nó thu hút hơn 50 triệu lượt truy cập từ tháng 1 đến tháng 10, biến nó thành website lớn nhất trong thể loại này. Hàng trăm nghìn bức ảnh được tải lên trong một ngày, với lượng xem kỷ lục 6,92 triệu trong tháng 8, theo Similarweb.

Tuy nhiên, do thu hút sự chú ý, internet web page này từng bị chặn, trong khi nền tảng tiền điện tử Coinbase cũng đình chỉ tài khoản liên quan. Do đó, lượng truy cập giảm xuống còn 3,14 triệu vào tháng 10, với gần 14% người xem đến từ Mỹ.

Người sáng lập một trong những trang web site ăn theo tiết lộ đã trả 500 USD cho web website nguyên bản để tạo 10.000 ảnh khỏa thân. Một trang đối tác cho biết đã xử lý 204.522 ảnh từ hơn 3.000 khách hàng. Một trang khác đề cập bộ dữ liệu huấn luyện AI gồm hơn một triệu bức ảnh, nhưng chưa rõ nguồn gốc của số ảnh này. Chủ site nguyên bản khẳng định họ không lưu trữ hình ảnh hoặc dùng chúng để huấn luyện AI.

Nguồn tiền từ đối tác không phải cách duy nhất để internet web page deepfake này duy trì hoạt động. Hàng trăm đường dẫn từ chương trình giới thiệu, trong đó người sử dụng được cấp quyền tạo ảnh mỗi khi có người bấm vào url, cũng được chia sẻ trên mạng xã hội và các diễn đàn chuyên về deepfake.

Web website đã cập nhật thuật toán nhiều lần và đang ở phiên bản 2.. Các nhà phát triển cho biết bản thứ ba dự kiến ra mắt đầu năm 2022 sẽ cải thiện “khả năng dự đoán”, áp dụng với cả các bức ảnh chụp từ bên cạnh hoặc sau lưng chủ thể.

Chiến thuật của internet web page cho thấy sự trưởng thành trong công nghệ tạo ảnh khỏa thân bằng deepfake, chủ yếu nhằm vào phụ nữ. Những hệ thống này ngày càng phức tạp hơn nhiều so với các ảnh khỏa thân giả mạo được tạo bằng AI xuất hiện trên Reddit cuối năm 2017. Quá trình tạo ảnh cũng đơn giản hơn, thậm chí đã chuyển đổi sang video clip.

Chỉ với một ứng dụng miễn phí trên điện thoại, người dùng đã có thể tạo ra được các video deepfake một cách dễ dàng. Ảnh: Khương Nha

Người dùng đã có thể tạo on-line video deepfake dễ dàng bằng ứng dụng điện thoại. Ảnh: Khương Nha

Mục tiêu quấy rối cũng chuyển từ ngôi sao và người nổi tiếng sang những người bình thường, trong khi sự xuất hiện của các website như trên cũng thúc đẩy hoạt động xâm phạm.

“Chất lượng ảnh ngày càng cao. Những người đứng sau webite này đã làm được điều chưa từng có trước đây là xây dựng cộng đồng vững mạnh”, Henry Ajder, cố vấn về deepfake tại công ty truyền thông Metaphysic, nhận xét.

Các web website “lột đồ” đang thu về lượng lớn tiền cho chủ sở hữu. Cả ba web website ăn theo đều thu phí xử lý hình ảnh từ 10 USD cho 100 ảnh đến 260 USD cho 2.000 chiếc. Chúng cũng cung cấp dịch vụ miễn phí để thử nghiệm công nghệ, nhưng luôn hối thúc người dùng trả tiền. Cả ba chấp nhận chuyển khoản ngân hàng, PayPal, Patreon và nhiều loại tiền điện tử.

Hàng loạt nhà cung cấp dịch vụ đã cắt liên hệ sau khi thông tin về các web-site này được công bố, nhưng hình thức thanh toán bằng tiền điện tử vẫn được chấp nhận. “Điều đó dẫn tới những hậu quả nghiêm trọng. Những kẻ bạo lực gia đình sẽ tìm đến những site thế này, tải hình ảnh vốn rất bình thường của người thân lên rồi xóa bỏ quần áo, gây tổn thương cho nạn nhân”, Seyi Akiwowo, người sáng lập quỹ từ thiện Glitch! chuyên giải quyết tình trạng lạm dụng phụ nữ tại Anh, nói.

Mạng xã hội Fb đã phát triển nhiều phương án để phát hiện và đảo ngược deepfake, nhưng chưa thực sự hiệu quả. GitHub vẫn lưu trữ mã nguồn của các ứng dụng AI tạo ảnh khỏa thân, dù tuyên bố đã chặn phần mềm DeepNude hồi năm 2019.

Dù deepfake bị lạm dụng để tạo hình ảnh khiêu dâm từ năm 2017, giới lập pháp các nước vẫn chưa tìm ra phương án giải quyết vấn đề, khiến nạn nhân không có nhiều cách để đối phó với kẻ phát tán. Ngay cả khi có luật, gần như không thể truy tìm và đưa người phát triển công nghệ này ra xét xử. Một người ở châu Á khó bị xét xử ở Mỹ hoặc Anh nếu không bị dẫn độ. Ngăn chặn deepfake cần tới hàng loạt biện pháp kiềm chế. “Giải pháp tốt nhất hiện nay là tạo ra càng nhiều rào cản với các web website đó càng tốt”, Adjer nói.

Điệp Anh (theo Có dây)



Supply hyperlink

NHỮNG BÀI VIẾT LIÊN QUAN
- Quảng cáo -

Phổ biến nhất