Chatbot AI từ là bạn có thể trở thành sát thủ thầm lặng

Đối với những người trẻ lớn lên trong một nền văn hóa luôn trực tuyến, ý tưởng tâm sự với AI đến một cách tự nhiên. Ảnh: France 24

Theo công ty nghiên cứu thị trường Global Information, thị trường sức khỏe tâm thần AI, được định giá 1,5 tỷ USD vào năm 2023, dự kiến sẽ tăng hơn gấp 3 lần lên 5,1 tỷ USD vào năm 2030.

Tâm sự với AI cảm thấy dễ dàng hơn người thật

Một số người chuyển sang "tâm sự cùng AI" vì bạn bè thường không thể đưa ra những gì họ muốn. Baek In-kyo, 23 tuổi, phải đối mặt với nhiều tháng căng thẳng do vấn đề sức khỏe và phải vật lộn với đơn xin chuyển tiếp đại học.

"Tôi cần trợ giúp tìm bảo hiểm y tế phù hợp và các mẹo tập thể dục. Và ChatGPT đã so sánh, cân nhắc chi phí và thậm chí cung cấp cho tôi một thói quen rất chi tiết. Quan trọng nhất, nó làm tôi vui lên với những câu như: 'Dù bạn làm gì, hãy luôn chăm sóc bản thân, tôi sẽ ở đây vì bạn'. Nó nhẹ nhàng một cách kỳ lạ", cô nói.

Park Hye-young, 29 tuổi, chuẩn bị kết hôn, nhận thấy những lời giải thích của AI hữu ích hơn là sự trấn an của bạn bè. "Tôi đã lo lắng và liên tục đặt câu hỏi về sự lựa chọn của mình. Bạn bè của tôi nói với tôi rằng mọi người đều cảm thấy bồn chồn trong đám cưới, nhưng ChatGPT đã cho tôi lời giải thích về tâm lý đám cưới – tại sao tôi cảm thấy như vậy, làm thế nào để biết nó có bình thường hay không và phải làm gì với nó. Nó cho tôi lý do, không chỉ là những lời sáo rỗng".

Lee Jung-mo, một sinh viên đại học 24 tuổi, cho biết cô bị thu hút bởi ChatGPT chính xác vì nó phù hợp với cuộc sống của cô một cách dễ dàng.

"Nó nhớ mọi thứ về tôi. Tôi có thể nói chuyện với nó 24/7. Nó không đòi hỏi lao động cảm xúc. Đó không phải là một mối quan hệ. Đó là một trợ lý cá nhân, một chiều và có thể truy cập được. Thành thật mà nói, tôi có thể gọi đó là một trong những người bạn thân nhất của mình".

Đối với nhiều người trong Gen Z, bắt đầu một cuộc trò chuyện với một con người có thể cảm thấy nặng nề. Ngược lại, ChatGPT rất đơn giản, có thể đoán trước và luôn sẵn sàng. Nó không đòi hỏi lao động tình cảm hoặc đầu tư có đi có lại; nó lắng nghe mà không bị gián đoạn hay phán xét.

AI không biết về mọi người và đó là một điều tốt

Đối với một số người, quyền riêng tư là yếu tố quyết định khi dùng AI. "Tôi không tin tưởng mọi người với những bí mật sâu sắc nhất của mình. Nhưng ChatGPT là một robot. Nó sẽ không nói với bất kỳ ai, và nó không biết tôi là ai. Đó là điều tuyệt vời" - Kim Yeon-seok, 27 tuổi, nói.

Đối với anh Kim, chatbot trở thành một không gian an toàn để thảo luận về các chủ đề mà anh sẽ không bao giờ chia sẻ với gia đình hoặc bạn bè, từ chấn thương thời thơ ấu đến khó khăn về tài chính. "Đó không chỉ là lời khuyên. Nó thực sự hoạt động giống như liệu pháp" - anh nói thêm.

Sự kết hợp giữa an toàn, trung lập và truy cập tức thì là lý do tại sao nhiều người dùng Gen Z nói rằng họ thấy AI dễ tiếp cận hơn cả những người bạn thân và thậm chí thường coi nó như một "nhà trị liệu" cá nhân.

Mối quan tâm và rủi ro đạo đức

Không phải ai cũng tin rằng AI có thể đóng vai trò của một người bạn tâm giao. Một số từ chối "tin tưởng" ChatGPT ngoài tiện ích của nó với tư cách là nguồn thông tin.

Yeon Min-jun, 29 tuổi, cho biết anh không bao giờ sử dụng chatbot để hỗ trợ tinh thần. "Bạn đã xem tin tức chưa? Một thiếu niên đã tự tử ở đâu sau nhiều tháng tâm sự ChatGPT? Điều đó nguy hiểm - nó không có đạo đức của con người", ông nói.

Yeon công khai hoài nghi, gọi AI là "một cụm mã kim loại do con người tạo ra". Mối quan tâm của anh phản ánh những cảnh báo từ chính OpenAI, công ty đã thừa nhận rằng các phần của khóa đào tạo an toàn của nó có thể giảm chất lượng trong các cuộc trò chuyện dài hơn, làm tăng nguy cơ đầu ra có hại hoặc gây hiểu lầm.

"Gắn bó về mặt cảm xúc với một thứ gì đó không thể cảm nhận hoặc quan tâm lại có thể tạo ra các vấn đề nghiêm trọng", Yeon nói thêm.

Yeon đề cập đến cái chết của Adam Raine, 16 tuổi ở Mỹ vào tháng 4/2024. Cha mẹ anh đã đệ đơn kiện OpenAI và giám đốc điều hành Sam Altman, tuyên bố chatbot đã góp phần vào cái chết của con trai họ bằng cách tư vấn cho anh ta về các phương pháp và cách viết thư tuyệt mệnh.

Vụ kiện, được đệ trình lên Tòa án Tối cao California, Mỹ là vụ kiện mới nhất trong một loạt các hành động pháp lý của các gia đình cáo buộc rằng chatbot AI đóng một vai trò trong việc tự làm hại hoặc tự tử của con cái họ.

Các chuyên gia cảnh báo không nên coi AI là phương thuốc chữa bệnh. Không giống như nhà trị liệu, bác sĩ hoặc luật sư, các cuộc trò chuyện về AI không được bảo mật về mặt pháp lý.

Thảo Nguyễn (theo Korea Herald)