Cảnh báo gấu bông AI trò chuyện 'độc hại' cho trẻ

23/11/2025 - 18:22

PNO - Báo cáo mới của Quỹ Giáo dục PIRG cảnh báo rằng một mẫu thú nhồi bông tích hợp trí tuệ nhân tạo AI dành cho trẻ bị xem là có tác hại cho trẻ. Trong đó, những cuộc trò chuyện giữa gấu bông AI với trẻ em lại xoáy vào các chủ đề tình dục và đưa ra lời khuyên có thể gây nguy hiểm.

Những người thử nghiệm cho biết AI teddy Kumma đôi khi nói về diêm và dao và các chủ đề tình dục khiến người lớn đứng thẳng.  ẢNH: FOLOTOY.COM
Những người thử nghiệm cho biết gấu Kumma AI đôi khi nói về dao và các chủ đề tình dục khiến người lớn giật mình - Ảnh: Folotoy

Theo báo cáo của Quỹ Giáo dục PIRG (Mỹ) thì những món đồ chơi này và nhiều đồ chơi cho trẻ khác trên thị trường có vẻ ngoài dễ thương, ngây thơ nhưng lại chứa nhiều cuộc trò chuyện gây bất ngờ và không an toàn.

Thay vì trò chuyện với trẻ về bài tập về nhà hoặc giờ đi ngủ hoặc kể về những câu chuyện hay, truyền cảm hứng thì những đồ chơi này đôi khi nói về dao và các chủ đề tình dục... khiến người lớn lo ngại vì sự an toàn cho trẻ.

Sản phẩm được gọi tên gần đây là Kumma - một con gấu nhồi bông có gắn loa bên trong, được bán với giá 99 USD trên trang web công ty. “Kumma” tích hợp chatbot GPT-4o của OpenAI.

Kumma được quảng cáo là một chú gấu dễ thương, kết hợp trí tuệ nhân tạo tiên tiến với các tính năng tương tác thân thiện, trở thành người bạn hoàn hảo cho cả trẻ em và người lớn. Tuy nhiên, theo báo cáo của PIRG, mẫu gấu này lại có nhiều nội dung không chuẩn mực. Ví dụ khi trò chuyện với trẻ, gấu Kumma gợi ý nơi có thể tìm dao trong nhà hoặc trong những tương tác khác, nó sẵn sàng thảo luận các chủ đề tình dục.

“Trong nghiên cứu chúng tôi phát hiện ra rằng, gấu Kumma có thể trò chuyện với chủ đề tình dục được đưa ra và thậm chí nó phát triển câu chuyện rất nhanh, đồng thời mô tả khá chi tiết và tự đưa ra những khái niệm tình dục mới” - báo cáo PIRG viết.

Ngay sau khi bị phản hồi, công ty FoloToy đã rút mẫu gấu “Kumma” ra khỏi các hệ thống đồng thời tạm ngưng toàn bộ dòng đồ chơi tích hợp AI còn lại. "Công ty hiện đang tiến hành kiểm tra an toàn nội bộ - Wang Larry Wang, CEO của FoloToy cho biết.

Thảo Nguyễn (theo NY Times)

 

news_is_not_ads=
TIN MỚI