Chatbot phát tán nội dung lạm dụng trẻ em do AI tạo ra

Một trang web chatbot dùng AI tạo hình ảnh và kịch bản tình dục liên quan đến trẻ em. Ảnh minh họa: Unflash

Mới đây, các tổ chức bảo vệ trẻ em tại Anh lên tiếng cảnh báo về một nguy cơ nghiêm trọng đang ngày càng lan rộng, khi phát hiện một trang web chatbot cho phép người dùng tương tác trong các kịch bản mang tính chất tình dục với nhân vật trẻ em, kèm hình ảnh do trí tuệ nhân tạo (AI) tạo ra.

Tổ chức Giám sát Internet (Internet Watch Foundation - IWF) cho biết, họ đã phát hiện một trang web có tích hợp chatbot đóng vai trẻ em trong các tình huống như ''bé gái mại dâm trong khách sạn'', ''quan hệ với con khi vợ đi vắng'' hay ''trò chuyện riêng giữa giáo viên và học sinh sau giờ học''. Đáng chú ý, khi người dùng nhấp vào biểu tượng chatbot, trang web sẽ hiển thị hình ảnh lạm dụng trẻ em với độ chân thực cao, do AI tạo ra, được sử dụng làm nền cho các đoạn hội thoại tiếp theo.

IWF đã xác định ít nhất 17 hình ảnh vi phạm có thể bị truy tố theo Đạo luật Bảo vệ Trẻ em của Anh. Ngoài ra, người dùng còn có thể tạo thêm hình ảnh tương tự chỉ với một cú nhấp chuột, làm dấy lên lo ngại về khả năng phát tán hàng loạt nội dung phi pháp này thông qua công nghệ AI.

Trang web bị phát hiện đã thu hút hàng chục ngàn lượt truy cập, chỉ riêng tháng 7 vừa qua đã ghi nhận 60.000 lượt. Nội dung được phát tán thông qua quảng cáo trên mạng xã hội, dẫn người dùng đến phần trang chứa các chatbot có kịch bản bất hợp pháp. Một số chatbot xác nhận mình được thiết kế để đóng vai trẻ vị thành niên, thậm chí trả lời các câu hỏi có tính chất nhạy cảm hoặc khiêu dâm mà không có bất kỳ rào cản nào.

Theo IWF, phần lớn hình ảnh được tạo bởi các công cụ AI có khả năng tạo nội dung ảnh ''giả thật'' đến mức khó phân biệt với ảnh chụp thật. Một số chatbot không trực tiếp hiển thị hình ảnh vi phạm, nhưng lại sử dụng ngôn từ mô tả hành vi tình dục với trẻ em một cách rõ ràng, có thể cấu thành hành vi tiếp tay cho tội phạm.

Trang web hiện đang được lưu trữ trên máy chủ đặt tại Mỹ, do một công ty có trụ sở tại Trung Quốc vận hành. Vụ việc đã được IWF báo cáo tới Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột của Mỹ (NCMEC), họ cho biết các báo cáo sẽ được chuyển đến cơ quan thực thi pháp luật.

Tổ chức IWF và Quỹ Bảo vệ Trẻ em Quốc gia (NSPCC) kêu gọi chính phủ Anh áp dụng các quy định chặt chẽ hơn với lĩnh vực AI, đặc biệt là yêu cầu các nhà phát triển tích hợp cơ chế bảo vệ trẻ em ngay từ đầu.

Các nền tảng cho phép chatbot tạo nội dung lạm dụng trẻ em sẽ bị phạt tiền hoặc cấm hoạt động. Ảnh minh họa: unflash

''Chính phủ Anh đang có những bước tiến tích cực với các quy định mới trong Dự luật Tội phạm và Cảnh sát, cấm tạo, tàng trữ và phát tán nội dung lạm dụng tình dục trẻ em do AI tạo ra. Nhưng cần hành động nhanh hơn và quyết liệt hơn nữa'' - bà Kerry Smith, Giám đốc điều hành IWF, phát biểu.

Theo quy định mới trong Đạo luật An toàn Trực tuyến của Anh, các nền tảng cho phép người dùng tạo ra chatbot có nội dung lạm dụng tình dục trẻ em có thể bị xử phạt nặng, từ án phạt hàng triệu bảng cho tới việc bị cấm hoạt động tại Anh trong những trường hợp nghiêm trọng.

Ofcom - cơ quan giám sát thực thi luật - cảnh báo: ''Việc bảo vệ trẻ em khỏi lạm dụng và bóc lột tình dục trực tuyến là ưu tiên hàng đầu. Những nền tảng không có biện pháp bảo vệ hiệu quả sẽ đối mặt với các biện pháp xử lý nghiêm khắc''.

Nhật Minh (theo Guardian)