Chatbot AI - mối nguy hiểm với trẻ vị thành niên

10/09/2025 - 06:27

PNO - Ngày 9/9, cơ quan quản lý an toàn trực tuyến của Úc cho biết chuẩn bị đưa ra các quy tắc mới nhằm quản lý các trang mạng xã hội.

Cơ quan này khẳng định, các chatbot AI khuyến khích tự tử hoặc tổ chức các cuộc trò chuyện khiêu dâm đang gây ra mối nguy hiểm rõ ràng và hiện hữu cho trẻ em.

Các quy định này là biện pháp mới nhất trong một loạt hạn chế kỹ thuật số nghiêm ngặt ở Úc. Luật sẽ có hiệu lực vào tháng Mười hai tới đối với một loạt nền tảng.

Là quốc gia đầu tiên trên thế giới ban hành lệnh cấm truyền thông xã hội đối với người dưới 16 tuổi, Úc hy vọng sẽ cứu trẻ em khỏi những cám dỗ và tác hại của các nền tảng số. Bà Julie Inman Grant - Ủy viên An toàn điện tử của Úc - cho biết, trẻ em đang tiếp xúc với nội dung “khủng khiếp” và không phù hợp với lứa tuổi.

Nghiên cứu cho thấy chatbot gây ra mối nguy hiểm rõ ràng và hiện hữu cho trẻ em - Nguồn ảnh: New York Times
Nghiên cứu cho thấy chatbot gây ra mối nguy hiểm rõ ràng và hiện hữu cho trẻ em - Nguồn ảnh: New York Times

Theo các quy định mới của Úc, các trang web hiển thị hoặc phân phối nội dung khiêu dâm hay nội dung gây hại khác sẽ phải áp dụng công nghệ kiểm tra độ tuổi để ngăn chặn trẻ truy cập. Các ứng dụng phải đảm bảo rằng tất cả được xếp hạng phù hợp và áp dụng các biện pháp đảm bảo độ tuổi cho mọi lượt tải xuống.

“Tôi không muốn trẻ em, thanh thiếu niên Úc và trên thế giới trở thành nạn nhân của các công nghệ đang được đẩy vào thị trường mà không có hành lang bảo vệ”.

Bà Julie Inman Grant - Ủy viên An toàn điện tử của Úc

Ủy ban Thương mại Liên bang Mỹ (FTC) cũng chuẩn bị gửi thư yêu cầu hàng loạt công ty công nghệ lớn, trong đó có OpenAI - nhà sản xuất ChatGPT, Meta Platforms và Startup Character.AI... cung cấp các tài liệu nhằm làm rõ: liệu những công nghệ mới có đang gây tổn hại đến sức khỏe tâm thần của trẻ hay không khi ngày càng có nhiều phụ huynh lên tiếng khiếu kiện vì những nguy cơ tiềm ẩn của các chatbot AI đối với trẻ. FTC khẳng định sẽ nghiên cứu kỹ tác động của chatbot đối với trẻ em và thanh thiếu niên.

Mới đây, đệ nhất phu nhân Mỹ Melania Trump có bài phát biểu về những tác động của AI đối với trẻ em. “Là những nhà lãnh đạo và cũng là những người làm cha làm mẹ, chúng ta phải có trách nhiệm trong việc quản lý sự phát triển của AI. Trong giai đoạn sơ khai này, chúng ta cần đối xử với AI như con cái mình, trao quyền nhưng phải dưới sự hướng dẫn kỹ càng” - bà nói. Ngoài ra, bà cũng nhắc lại những nỗ lực gần đây của mình trong việc vận động thông qua đạo luật chống deepfake, nhằm bảo vệ trẻ em và phụ nữ trước nguy cơ bị lạm dụng hình ảnh kỹ thuật số.

Trước áp lực từ dư luận, nhiều công ty công nghệ đã đưa ra các biện pháp nhằm hạn chế rủi ro cho thanh thiếu niên. Nhiều chuyên gia cho rằng, các chính phủ cần mạnh tay với những nền tảng gây nguy hiểm cho trẻ nhỏ.

“Chúng ta đang bước vào thời kỳ chưa từng có khi trẻ em có thể coi chatbot như một người bạn, một người cố vấn, thậm chí là đối tượng tình cảm. Nhưng chatbot không có đạo đức, không có cảm xúc và có thể đưa ra lời khuyên cực kỳ nguy hiểm” - một chuyên gia tâm lý nói.

Trần Trọng (theo Bloomberg, New York Post, New York Times)

 

news_is_not_ads=
TIN MỚI