Mỗi tuần, hơn 1 triệu người có ý định tự tử, thể hiện qua ChatGPT

Theo bài đăng trên blog của công ty OpenAI ngày 27/10, mỗi tuần có trên 1 triệu người dùng ChatGPT gửi các tin nhắn có dấu hiệu cho thấy khả năng có kế hoạch hoặc ý định tự tử

Đây là một trong những tuyên bố trực tiếp nhất của OpenAI về mức độ mà trí tuệ nhân tạo (AI) có thể làm trầm trọng thêm các vấn đề sức khỏe tâm thần.

Phát hiện này nằm trong bản cập nhật về cách chatbot xử lý các cuộc trò chuyện nhạy cảm.

Bên cạnh ước tính về các biểu hiện và tương tác liên quan đến ý định tự tử, OpenAI cũng cho biết khoảng 0,07% người dùng hoạt động trong 1 tuần (tương đương khoảng 560.000 trong tổng số 800 triệu người dùng) thể hiện dấu hiệu có thể liên quan đến tình huống khẩn cấp về sức khỏe tâm thần.

Đây là lần đầu tiên OpenAI công bố dữ liệu về các vấn đề sức khỏe tâm thần liên quan đến sản phẩm chủ lực của mình trong khi đang bị chú ý sát sao sau các vụ kiện bởi những gia đình có con tự tử sau thời gian dài tương tác với ChatGPT.

Hồi tháng trước, Ủy ban Thương mại Liên bang Mỹ (FTC) đã mở cuộc điều tra diện rộng đối với các công ty phát triển chatbot AI, trong đó có OpenAI, nhằm tìm hiểu cách họ đánh giá tác động tiêu cực đến trẻ em và thanh thiếu niên.

Trong bài đăng mới này, OpenAI cũng cho biết rằng bản cập nhật GPT-5 gần đây đã giảm số hành vi không mong muốn từ sản phẩm của mình và cải thiện độ an toàn cho người dùng trong một cuộc đánh giá mô hình có hơn 1.000 cuộc trò chuyện liên quan đến hành vi tự gây hại và tự tử.

Theo OpenAI, GPT-5 đã mở rộng khả năng tiếp cận các đường dây nóng hỗ trợ khủng hoảng và bổ sung nhắc nhở người dùng nghỉ ngơi trong các phiên trò chuyện kéo dài. Để cải thiện mô hình, trong vài tháng gần đây, công ty này đã huy động 170 bác sĩ từ Mạng lưới Bác sĩ toàn cầu gồm các chuyên gia y tế để hỗ trợ nghiên cứu, trong đó có hoạt động đánh giá mức độ an toàn của các phản hồi và giúp viết câu trả lời của chatbot cho các câu hỏi liên quan đến sức khỏe tâm thần.

“Các bác sĩ tâm thần và nhà tâm lý học đã xem xét hơn 1.800 phản hồi từ các tình huống sức khỏe tâm thần nghiêm trọng và so sánh phản hồi của mô hình trò chuyện GPT-5 mới với các phiên bản trước” - OpenAI cho biết.

Từ lâu, các nhà nghiên cứu AI và các chuyên gia y tế công cộng đã cảnh báo rằng chatbot có xu hướng khiến người dùng bị ảo tưởng. Đây là vấn đề được gọi là “tính nịnh hót”. Các chuyên gia sức khỏe tâm thần cũng lo ngại về việc con người sử dụng chatbot AI làm công cụ hỗ trợ tâm lý, cảnh báo rằng điều này có thể gây hại cho những người dùng dễ bị tổn thương. Tuy nhiên, trong bài đăng này, OpenAI bào chữa rằng sản phẩm của mình không quá gây hại và tạo nên khủng hoảng sức khỏe tâm thần mà người dùng đang trải qua.

“Các triệu chứng sức khỏe tâm thần và căng thẳng cảm xúc tồn tại phổ biến trong mọi xã hội. Khi số lượng người dùng tăng lên, một phần các cuộc trò chuyện trên ChatGPT sẽ bao gồm những tình huống như vậy” - báo cáo từ OpenAI.

Hồi đầu tháng này, Giám đốc điều hành OpenAI Sam Altman nói trên mạng X rằng công ty đã đạt tiến triển trong xử lý các vấn đề sức khỏe tâm thần, đồng thời thông báo OpenAI sẽ nới lỏng các hạn chế và sớm cho phép người trưởng thành có thể trò chuyện về chủ đề tình cảm và tình dục với chatbot.

"Chúng tôi đã đặt ra nhiều giới hạn cho ChatGPT để bảo đảm cẩn trọng với các vấn đề sức khỏe tâm thần. Chúng tôi nhận ra điều đó khiến sản phẩm kém hữu ích hoặc ít thú vị hơn với nhiều người dùng không gặp vấn đề tâm lý, nhưng do tính nghiêm trọng của vấn đề, chúng tôi muốn làm đúng ngay từ đầu. Giờ đây, khi đã giảm thiểu được các vấn đề nghiêm trọng về sức khỏe tâm thần và có thêm công cụ mới, chúng tôi có thể nới lỏng các hạn chế trong hầu hết trường hợp” - ông Altman viết.

Thảo Nguyễn (theo Guardian)