Lo ngại với nội dung độc hại trên TikTok

Vòng xoáy nội dung độc hại

Các nhà nghiên cứu từ Trung tâm Chống lại sự căm ghét kỹ thuật số (CCDH - tổ chức phi lợi nhuận có trụ sở tại Anh) đã tạo tài khoản TikTok cho các nhân vật tuổi “teen” ảo ở Mỹ,  Anh, Canada và Úc. Sau đó, họ điều hành các tài khoản để “thích” những video về hành vi tự làm hại bản thân và chứng rối loạn ăn uống, nhằm tìm hiểu xem thuật toán của TikTok sẽ phản hồi như thế nào.

Rất nhiều nội dung độc hại trên TikTok được sử dụng từ mã hóa nhằm tránh kiểm duyệt - Ảnh: New York Times

Trong vòng vài phút, nền tảng đã đề xuất các video về giảm cân và tự làm hại bản thân, bao gồm cả những video có hình ảnh của người mẫu và kiểu cơ thể lý tưởng, hình ảnh lưỡi dao cạo và thảo luận về tự sát. 

Mặt khác, khi nhóm nghiên cứu tạo các tài khoản có tên người dùng bao gồm gợi ý về chứng rối loạn ăn uống - chẳng hạn như tên bao gồm từ “giảm cân” - các tài khoản thậm chí còn được cung cấp nội dung có hại nhiều hơn. Imran Ahmed - CEO của CCDH - chia sẻ: “Điều đó giống như bị mắc kẹt trong một căn phòng toàn những tấm gương méo mó, nơi bạn liên tục bị nói rằng bạn xấu xí, bạn không đủ tốt, có lẽ bạn nên 
tự sát”.

Trên thực tế, TikTok cấm người dùng dưới 13 tuổi và các quy tắc chính thức của nền tảng cũng cấm các video khuyến khích chứng rối loạn ăn uống hoặc tự tử. Tuy nhiên, nhóm nghiên cứu phát hiện ra rằng nhiều video quảng bá chứng rối loạn ăn uống sử dụng các từ khóa mã hóa, nhằm cố gắng tránh kiểm duyệt và đưa những video có hại bên cạnh những video tích cực hơn. Ví dụ, người dùng đã sử dụng từ khóa #EdSheeranDisorder để gắn thẻ các bài đăng về chứng rối loạn ăn uống bên cạnh những video nói về nam ca sĩ nổi tiếng người Anh. 

Chưa có giải pháp hiệu quả

Ngày càng có nhiều lo ngại xung quanh nội dung mà TikTok cung cấp cho thanh thiếu niên. Theo dữ liệu được tạp chí Bloomberg Businessweek tổng hợp từ các bản tin, hồ sơ tòa án và những cuộc phỏng vấn thân nhân, một trào lưu trên TikTok với tên gọi “thử thách bất tỉnh” (blackout challenge) có liên quan đến cái chết của ít nhất 15 trẻ em dưới 12 tuổi và 5 đứa trẻ 13-14 tuổi kể từ giữa năm 2021. Trong một thử thách khác có tên “skull-breaker”, 2 người sẽ lừa 1 người thứ ba nhảy lên giữa họ và sau đó gạt chân người nhảy giữa không trung khiến họ té đập mặt xuống đất. Thử thách này dẫn đến một số báo cáo về nạn nhân bị chấn động và tổn thương não. 

Một lực lượng toàn cầu của TikTok gồm khoảng 40.000 người chịu trách nhiệm xem xét các video trên nền tảng này, 3/4 trong số họ làm việc theo hợp đồng. Mỗi người xem khoảng 1.000 video mỗi ngày và trung bình họ mất khoảng 20 giây cho mỗi video. Các bài đăng cũng được lọc tự động bằng phần mềm trí tuệ nhân tạo - khoảng 10 tỉ bài đăng chỉ trong quý đầu tiên của năm 2022 - và tự động xóa bất kỳ nội dung nào vi phạm nguyên tắc cộng đồng, chẳng hạn như chứa ảnh khỏa thân hoặc bạo lực.

Nếu phần mềm không chắc chắn, nó sẽ gửi video cho người chịu trách nhiệm đánh giá. Mọi video có hơn 3.000 lượt xem (con số khác nhau tùy theo từng quốc gia) cũng được gửi đến người kiểm duyệt, đảm bảo rằng nội dung phổ biến sẽ nhận được đánh giá từ con người. Tuy nhiên, luôn có chỗ cho những sai lầm như trường hợp của “thử thách bất tỉnh”. 

Mặt khác, TikTok chưa thể phát hiện và loại bỏ những đứa trẻ khai man tuổi để có thể sử dụng nền tảng. Theo hãng tin Bloomberg, vào năm 2021, TikTok đã gặp ít nhất 2 nhà cung cấp phần mềm ước tính tuổi dựa trên khuôn mặt, có thể phân biệt giữa 1 đứa trẻ và 1 thiếu niên với độ chính xác tương đối.

Mặc dù vậy, một giám đốc điều hành hàng đầu của TikTok đã hủy bỏ các thỏa thuận, vì sợ rằng việc sử dụng dữ liệu sinh trắc học sẽ làm dấy lên nghi ngờ ứng dụng theo dõi người dùng là trẻ em. Thay vào đó, TikTok dùng cách thủ công là xóa tài khoản của trẻ em chưa đủ tuổi vị thành niên, khiến 41 triệu tài khoản “bay màu” chỉ trong nửa đầu năm 2022. Nhưng với hơn 1 tỉ người dùng trên toàn thế giới, nhiệm vụ này là vô tận bởi nó chỉ có thể khiến người dùng rời khỏi nền tảng trong một thời gian ngắn trước khi họ thiết lập tài khoản mới. 

Linh La (theo Bloomberg, NY Times, AP)