Hình ảnh của trẻ em dễ bị tội phạm dùng công nghệ deepfake để tạo ảnh, video mang nội dung tình dục - Ảnh minh họa do trí tuệ nhân tạo (AI) vẽ

Hình ảnh ảo, tổn hại thật

Theo một nghiên cứu do UNICEF (Quỹ nhi đồng Liên hiệp quốc), ECPAT (Tổ chức Chấm dứt mại dâm, khiêu dâm và buôn bán trẻ em nhằm bóc lột tình dục) và INTERPOL (Tổ chức Cảnh sát hình sự quốc tế) thực hiện tại 11 quốc gia, có 1,2 triệu trẻ em cho biết, hình ảnh của mình đã bị “mượn” để tạo nội dung tình dục trong vòng 1 năm qua. Ở một số nước, số trẻ em là nạn nhân của công nghệ deepfake chiếm tỉ lệ 1/25, nghĩa là cứ 25 trẻ thì 1 trẻ là nạn nhân.

Dẫn báo cáo của Tổng đài quốc gia bảo vệ trẻ em (111), ông Đặng Hoa Nam - nguyên Cục trưởng Cục Trẻ em (Bộ Lao động, Thương binh và Xã hội) - cho biết, số ca mà tổng đài này tiếp nhận liên quan đến việc trẻ em cần được bảo vệ trên môi trường mạng trong năm 2025 tăng gấp đôi so với năm 2024, trong đó có những vụ dùng deepfake với mục đích xấu. Theo ông, rất cần có thống kê, nghiên cứu, đánh giá xác đáng về vấn đề này.

Theo UNICEF, việc tạo nội dung xấu bằng deepfake gây ra những tổn hại nghiêm trọng và lâu dài đối với trẻ em. Bà Lê Hồng Loan - Trưởng chương trình bảo vệ trẻ em của UNICEF Việt Nam - khẳng định: “Hình ảnh có thể ảo nhưng tổn hại đối với trẻ em là thật. Với sự giúp sức của trí tuệ nhân tạo (AI), những nội dung như thật được tạo ra từ gương mặt và giọng nói của trẻ khiến người xem khó phân biệt được thật giả, khiến đứa trẻ là nạn nhân của công nghệ deepfake có thể bị người lạ lẫn người quen công kích, xúc phạm, đe dọa, dẫn đến bị tổn thương tâm lý kéo dài”.

Trong dự thảo sửa đổi, bổ sung Luật Hình sự (đang được lấy ý kiến để hoàn thiện), Bộ Công an đề xuất bổ sung quy định phạt tù người phát tán hình ảnh giả - được tạo bằng công nghệ mô phỏng hình ảnh (deepfake). Đây là 1 trong 9 hành vi phạm tội được bổ sung trong lĩnh vực công nghệ thông tin.

Tại tọa đàm chính sách về một số văn bản quy phạm pháp luật do Bộ Công an chủ trì xây dựng trong năm 2026 tổ chức ngày 15/5 vừa qua, thượng tá Triệu Mạnh Tùng - Phó cục trưởng Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (A05, Bộ Công an) cho biết hiện nay, những hành vi sử dụng AI hay deepfake để tạo ra hình ảnh giả, thông tin giả lan truyền trên các nền tảng rất phổ biến.

Luật An toàn thông tin mạng năm 2015 tuy đã có một số quy định về vấn đề này nhưng chưa thực sự điều chỉnh hoặc có chế tài đối với hành vi sử dụng trái phép các ứng dụng này. Dự thảo nghị định xử phạt vi phạm hành chính trong lĩnh vực an ninh mạng và bảo vệ dữ liệu cá nhân dự kiến bổ sung nhiều quy định nghiêm khắc nhằm xử lý các hành vi lợi dụng công nghệ AI, deepfake để tạo dựng, phát tán thông tin sai sự thật.

Theo đó, cả hành vi khởi tạo các sản phẩm giả mạo như video, hình ảnh do AI tạo ra và hành vi phát tán, lan truyền các nội dung này đều sẽ bị xử lý với chế tài nghiêm khắc. Đồng thời, dự thảo cũng quy định trách nhiệm đối với các nền tảng số khi để xảy ra vi phạm nhưng không thực hiện kiểm định, kiểm soát hoặc gỡ bỏ nội dung theo yêu cầu của cơ quan nhà nước. Đặc biệt, đối với các hành vi xâm phạm dữ liệu cá nhân, mức xử phạt sẽ được áp dụng ở mức rất cao theo thông lệ quốc tế.

Tiến sĩ, luật sư Đặng Văn Cường - Đoàn Luật sư TP Hà Nội - cho rằng, hiện tại, việc tạo và phát tán nội dung giả dựa vào AI quá dễ dàng nhưng việc kiểm soát hành vi này lại chưa hiệu quả. Theo ông, việc hình sự hóa hành vi này kể cả khi chưa gây ra hậu quả trực tiếp là cách để đề cao tính phòng ngừa. Trong kỷ nguyên số, ranh giới giữa thật và giả rất mong manh, nếu không có một khung pháp lý nghiêm khắc, tội phạm sẽ tiếp tục coi thường pháp luật để trục lợi và xâm phạm lợi ích của tổ chức, cá nhân.

Những hình ảnh, video được tạo bằng công nghệ deepfake có thể gây tổn thương tâm lý lâu dài cho trẻ - Ảnh minh họa do trí tuệ nhân tạo (AI) vẽ

Trẻ em cũng có thể là thủ phạm

Trẻ em là nạn nhân của công nghệ deepfake nhưng cũng có thể là thủ phạm. Với bản tính vô tư, thích trêu đùa, trẻ có thể tạo hoặc phát tán những sản phẩm deepfake.

Gần 60% nạn nhân trong các vụ dùng deepfake tạo ảnh và video khiêu dâm giai đoạn 2021-2023 ở Hàn Quốc là trẻ vị thành niên. Năm 2024, Hàn Quốc có hơn 1.300 vụ phạm tội liên quan tới deepfake. Đáng chú ý, phần lớn nghi phạm cũng là thanh thiếu niên. Trong hơn 470 người bị bắt năm 2024, khoảng 80% là học sinh hoặc người chưa thành niên, có người chỉ mới 10 tuổi. Có vụ, học sinh lấy ảnh bạn học trên mạng xã hội, ảnh thẻ, ảnh lớp rồi dùng AI chế, ghép thành ảnh nhạy cảm và phát tán trong nhóm chat kín như Telegram.

Ông Đặng Hoa Nam cho hay, theo quy định hiện hành, khi trẻ em phạm tội, pháp luật ưu tiên áp dụng các hình phạt ngoài tù, như cải tạo không giam giữ, tuyên án treo hoặc cho vào trung tâm giáo dưỡng. Pháp luật hiện hành nghiêm cấm áp dụng hình phạt tù chung thân đối với người dưới 18 tuổi và không áp dụng hình phạt tù đối với người lần đầu phạm tội ít nghiêm trọng do vô ý.

Dù vậy, theo ông, cần thay đổi cách tiếp cận, theo hướng toàn diện hơn. Đối tượng này vẫn cần được pháp luật và xã hội bảo vệ. Điều quan trọng là cần tăng cường tính phòng ngừa thay vì chỉ tập trung vào việc xử lý sau khi vụ việc xảy ra. Trong bối cảnh công nghệ số phát triển nhanh, trẻ em không chỉ cần được trang bị kỹ năng để tránh trở thành nạn nhân mà còn phải được giáo dục để không trở thành người đi gây hại người khác.

Cần tuyên truyền, giáo dục cho các em cả những kỹ năng tự bảo vệ mình lẫn kỹ năng kiểm soát hành vi, nhận thức được hậu quả pháp lý, đạo đức của việc phát tán hình ảnh, làm nhục, bắt nạt hay sử dụng công nghệ AI để xâm phạm người khác trên không gian mạng.

Cũng theo ông, ngoài sự đồng hành, giám sát và giáo dục trẻ em của gia đình, giáo viên và nhà trường, cần huy động sự tham gia trực tiếp của chính thanh thiếu niên. Chính các em - những người đang sống và tương tác thường xuyên trên môi trường số - sẽ đề xuất được những giải pháp hữu hiệu.

Do vậy, cần xây dựng các nhóm nòng cốt, đội tiên phong trong trường học, khuyến khích trẻ em chủ động đề xuất sáng kiến, tham gia tuyên truyền, hỗ trợ bạn bè và phát triển các mô hình giáo dục đồng đẳng. Việc sử dụng công nghệ số và mạng xã hội để huy động thanh thiếu niên cùng tham gia bảo vệ nhau sẽ tạo ra hiệu quả tốt hơn trong việc phòng ngừa các hành vi lệch chuẩn trên không gian mạng.

Công an tỉnh Ninh Bình cảnh báo nguy cơ từ trào lưu dùng AI tạo sticker cho trẻ em - Ảnh chụp màn hình

Ý kiến:

Cần có biện pháp khẩn cấp gỡ hình ảnh deepfake Tốc độ lan truyền hình ảnh, video tạo bằng deepfake được tính bằng giây, trong khi quy trình tố tụng lại kéo dài. Để bảo vệ tối đa nạn nhân, cần bổ sung các biện pháp ngăn chặn đặc thù trong tố tụng hình sự. Tương tự như các biện pháp khẩn cấp tạm thời trong dân sự, cần một cơ chế cho phép cơ quan chức năng buộc các nền tảng gỡ bỏ nội dung giả mạo ngay khi có dấu hiệu vi phạm thay vì chờ đến khi có kết luận điều tra. Cần phải có các biện pháp kỹ thuật để gỡ bỏ, ngăn chặn, hạn chế phát tán để đảm bảo quyền lợi cho bị hại, giảm thiểu thiệt hại. Luật sư ĐẶNG VĂN CƯỜNG - Đoàn Luật sư TP Hà Nội

Không thể chủ quan dù chỉ là 1 tấm ảnh Hiện nay, nhiều phụ huynh vẫn vô tư chia sẻ hình ảnh con cái lên mạng xã hội vì nghĩ rằng “chỉ là 1 tấm ảnh thì chẳng có gì nguy hiểm”. Nhưng chính sự chủ quan ấy đang biến trẻ em thành mục tiêu của tội phạm mạng. Chỉ cần khoảng vài chục bức ảnh thông thường, công nghệ AI có thể tạo ra hình ảnh hoặc video deepfake với độ chân thực rất cao. Những dữ liệu tưởng như vô hại như ảnh chân dung, clip sinh hoạt, video văn nghệ hay hình mặc đồng phục học sinh đều có thể bị lợi dụng để giả mạo, bôi nhọ hoặc lừa đảo. Một số người cũng cho rằng đăng ảnh ở chế độ “riêng tư” trên mạng xã hội thì sẽ an toàn tuyệt đối. Nhưng trên thực tế, khi hình ảnh đã được đăng tải thì người dùng gần như mất quyền kiểm soát bởi hình ảnh có thể bị chụp lại, tải xuống và phát tán ở nơi khác. Tội phạm lợi dụng công nghệ, cộng với sự chủ quan của người dùng mạng khiến trẻ dễ trở thành nạn nhân của các trò lừa đảo, bôi nhọ. Vì vậy, không thể chỉ trông chờ vào phần mềm bảo mật mà cần xây dựng khả năng “miễn dịch số” cho trẻ ngay trong trường học và gia đình. Các em cần được dạy kỹ năng nhận diện lừa đảo, kiểm chứng thông tin và bảo vệ dữ liệu cá nhân trên không gian mạng. Ông NGÔ MINH HIẾU - đồng sáng lập dự án Chống lừa đảo THU ANH - NGUYỄN NAM (ghi)

Nhóm phóng viên