Đây là kết quả một nghiên cứu truyền thông xã hội về các ứng dụng sử dụng trí tuệ nhân tạo (AI) để cởi quần áo của người trong ảnh và cảnh báo điều này đang ngày càng phổ biến.

24 triệu lượt truy cập trong tháng vì ảnh khỏa thân

Công ty phân tích truyền thông xã hội Graphika đã thực hiện phân tích 34 công ty cung cấp dịch vụ này.

Graphika gọi tên dịch vụ là "hình ảnh thân mật không có sự đồng thuận" (NCII). Kết quả, những trang web cung cấp NCII có tới 24 triệu lượt truy cập chỉ trong vòng một tháng.

Một trong những quảng cáo của loại hình này có nội dung: "Cởi quần áo của bất kỳ cô gái nào bạn muốn".

Ban đầu, ngành công nghiệp cởi quần áo ảo gần như không tồn tại. Tuy nhiên, các mô hình khuếch tán hình ảnh AI mã nguồn mở đã đơn giản hóa quá trình thay đổi ảnh, cho phép khởi chạy các ứng dụng và trang web NCII. Từ đó, số lượng liên kết giới thiệu dịch vụ này trên Reddit và X đã tăng hơn 2.400%, tính trong năm 2022.

Các nhà nghiên cứu đã chỉ ra rằng với sự hỗ trợ của các dịch vụ AI, những nhà cung cấp NCII tổng hợp hiện hoạt động như một ngành công nghiệp trực tuyến chính thức.

Họ tận dụng nhiều chiến thuật tiếp thị và công cụ kiếm tiền giống như các công ty thương mại điện tử đã thành danh.

Điều này bao gồm quảng cáo trên các nền tảng truyền thông xã hội chính thống, tiếp thị có ảnh hưởng, triển khai các chương trình giới thiệu khách hàng và sử dụng công nghệ thanh toán trực tuyến.

Chỉ cần vài thao tác đơn giản

Thực ra, việc ảnh khỏa thân được chia sẻ trên mạng mà không có sự đồng ý là điều không có gì mới. Năm 2018, một hacker từng bị kết án 8 tháng tù vì chia sẻ công khai những bức ảnh khỏa thân thật của nữ diễn viên Jennifer Lawrence và những người nổi tiếng khác trên Internet. Lawrence gọi vụ hack ảnh này là "tội ác tình dục".

Giờ đây, những bức ảnh như vậy có thể được tạo ra chỉ bằng một vài thao tác ấn phím đơn giản. Và sẽ rất khó để biết những hình ảnh đó là thật hay bịa đặt. FBI cũng từng đưa ra cảnh báo về tình trạng gia tăng việc thao túng hình ảnh để tống tiền hoặc tạo nội dung tục tĩu.

"Những kẻ độc hại sử dụng các công nghệ và dịch vụ để khai thác ảnh và video thường được chụp từ tài khoản mạng xã hội của một cá nhân, mã nguồn mở hoặc được nạn nhân yêu cầu thành những hình ảnh có chủ đề tình dục trông giống như thật với nạn nhân, sau đó lan truyền chúng trên mạng xã hội, diễn đàn công cộng hoặc các trang web khiêu dâm" - trang web FBI cảnh báo.

Những bức ảnh này đôi khi được sử dụng như một hành vi tống tiền, đòi tiền chuộc từ chủ thể của bức ảnh. Thêm vào mối lo ngại, các chương trình này đang được sử dụng để tạo ảnh khỏa thân trẻ vị thành niên.

Tháng 9 năm ngoái, hình ảnh khỏa thân của hơn 20 cô gái trẻ ở Tây Ban Nha đã bị phát hiện. 

Hầu hết các bức ảnh đều được tạo bằng cách sử dụng ảnh có mặc trang phục đầy đủ lấy từ tài khoản Instagram của các cô gái ấy, sau đó được chỉnh sửa bằng một ứng dụng hỗ trợ AI để biến thành khỏa thân và sau đó được chia sẻ trong các nhóm WhatsApp.

Giờ đây, việc cởi quần áo của những người nổi tiếng, bạn cùng lớp, người lạ trên xe buýt, sếp hay đồng nghiệp và cả trẻ em chỉ còn là vài cú nhấp chuột. 

Ở Mỹ, hiện chưa có luật liên bang nào cấm tạo ra những bức ảnh này mặc dù chúng bị cấm sử dụng với trẻ vị thành niên. Đối với ảnh người lớn, những ứng dụng này và hình ảnh do chúng tạo ra vẫn hợp pháp.

Drake và Taylor Swift khổ sở vì AI deepfake, liên tục bị lan truyền bài hát giả mạo

Time đưa tin một số ca khúc được cho là của hai ngôi sao nhạc pop Drake và Taylor Swift đang bị lan truyền trên mạng, gây ra nhiều bức xúc.