Nhật Bản “chật vật” vì nội dung khiêu dâm từ AI

Hầu hết video, hình ảnh deepfake xuất hiện trên internet, chứa nội dung đồi trụy - Ảnh: TheStraitsTimes

Chỉ cần dùng ảnh chân dung của nhân vật nổi tiếng, hoặc một người bình thường, nội dung khiêu dâm theo trào lưu deepfake (kỹ thuật ghép nối hình ảnh ứng dụng các công nghệ AI sáng tạo), có thể dễ dàng thành hình.

Ở Nhật Bản, đây là vấn nạn đang khiến nữ giới lo âu hơn bao giờ hết.

Minh chứng mới nhất gây xôn xao dư luận, xảy ra đầu tháng 10 năm nay: Một người đàn ông Nhật bị bắt giam vì cáo buộc tạo và chia sẻ lượng lớn nội dung deepfake đồi trụy liên quan tới nhiều nữ nghệ sĩ.

Dẫu chính phủ đã tiến hành điều tra nhằm mục đích kiểm soát nội dung khiêm dâm ảo trên thế giới mạng, cho đến nay, dường như chưa có hướng giải quyết thỏa đáng.

Thu lợi bất chính nhờ nội dung “bẩn”

“Tôi học làm video deepfake bằng việc đọc các bài viết và xem video hướng dẫn trên mạng”, người đàn ông vừa bị bắt giữ với tội danh kể trên, thừa nhận tại cơ quan điều tra.

Bị can – năm nay 31 tuổi, ngụ tại tỉnh Akita (vùng Tohoku, miền trung Nhật Bản) – bị Sở cảnh sát tỉnh bắt giam hôm 15/10 vừa qua. Người này bị bắt quả tang đang lan truyền và giao dịch kiếm lợi phi pháp thông qua nhiều hình ảnh đồi trụy trên mạng xã hội.

“Tôi chỉ muốn kiếm thêm chút thu nhập”, người đàn ông thú nhận.

Nhóm điều tra tội phạm mạng nghi ngờ bị can đã liên tục khai thác phần mềm sáng tạo hình ảnh ứng dụng công nghệ AI trên máy tính cá nhân. Cụ thể, trong máy tính tại nhà người đàn ông, cảnh sát phát hiện hơn 20.000 bức ảnh khiêu dâm ghép nối gương mặt của 262 người nổi tiếng (từ diễn viên, ca sĩ, đến biên tập viên, MC truyền hình...). Những bức ảnh sớm nhất, theo tiết lộ của cảnh sát, được tạo từ tháng 10 năm ngoái.

Bị can chưa từng được đào tạo chuyên nghiệp ở lĩnh vực công nghệ AI hoặc xử lý hình ảnh, lại thu lợi lên đến 100 USD (2,6 triệu VND) cho mỗi tấm ảnh cắt ghép. Trên mạng xã hội X, người này sở hữu một tài khoản chuyên quảng cáo và giao dịch mua bán hình ảnh AI.

Sở cảnh sát tỉnh Akita tin rằng, người đàn ông đã kiếm được 1,2 triệu Yên (hơn 207 triệu VND) từ những giao dịch bất chính, diễn ra liên tục 1 năm qua.

Hành vi vi phạm nhân quyền

Theo số liệu khảo sát của một công ty an ninh mạng tại Mỹ, riêng trong năm 2023, có 95,820 video theo trào lưu deepfake xuất hiện trên internet, 98% trong số chúng chứa nội dung khiêu dâm.

Vài năm gần đây, các đoạn phim, hình ảnh deepfake đồi trụy sản xuất tại Nhật Bản cũng đã ngập tràn nhiều trang mạng phổ biến. Không chỉ tồn tại một số kẻ thu lợi bất chính như trường hợp trên, vốn chủ yếu nhắm vào người nổi tiếng. Nhóm nạn nhân khiến công chúng lo ngại hơn hết, là bé gái vị thành niên.

Đặc biệt yếu thế trước làn sóng deepfake là trẻ em gái - Ảnh minh họa: FreshSplash

Năm 2024, những vụ tố cáo ảnh của trẻ vị thành niên (được chụp ở sự kiện do trường học, địa phương tổ chức hoặc trong sách kỷ yếu) bị đánh cắp – ghép nối cho mục đích tạo nội dung ảo đồi trụy, đã vượt quá 100. Số liệu cung cấp bởi Cơ quan Cảnh sát Quốc gia Nhật Bản.

“Số nạn nhân, đáng ngại thay, đang tăng không ngừng”, một nhà hoạt động xã hội công khai bài trừ deepfake, lên tiếng cảnh báo. “Một số em bị tổn thương tâm lý nặng, do tên thật còn bị kẻ xấu tiết lộ ra ngoài”.

Luật pháp Nhật hiện vẫn ẩn chứa lỗ hổng lớn trong vấn đề tiêu trừ nội dung khiêu dâm tạo bởi AI. Quốc gia này chưa xây dựng chế tài đủ bao quát liên quan tới việc phân định và xử lý các hành vi vi phạm.

Cựu thẩm phán - giáo sư Takashi Nagase, đang công tác tại đại học Kanazawa (tỉnh Ishikawa), lý giải: “Một người có thể bị phán tội phỉ báng người khác khi đánh cắp hình ảnh của họ, dùng AI để tạo nội dung bẩn, kiếm lợi từ đó. Tuy nhiên vẫn có tranh cãi cho rằng, nếu gương mặt trên ảnh cố tình bị chỉnh sửa để trông khác người thật; hoặc tạo hoàn toàn bởi AI, đây còn được xem là tội phỉ báng?”.

Như Ý (theo TheStraitsTimes)