Con người dễ "lạc lối" khi đặt hết niềm tin vào ChatGPT

02/02/2023 - 18:14

PNO - Nổi lên như một phần mềm có tốc độ thu hút người sử dụng toàn cầu nhanh nhất thế giới, ChatGPT khiến nhiều người băn khoăn về độ chính xác và khả năng trả lời mọi câu hỏi của mình.

 

Là một phần mềm dựa trên dữ liệu huấn luyện đầu vào, ChatGPT vẫn có những giới hạn riêng
Là một phần mềm dựa trên dữ liệu huấn luyện đầu vào, ChatGPT vẫn có những giới hạn riêng

ChatGPT là một mô hình ngôn ngữ dựa trên trí tuệ nhân tạo (AI). Phần mềm là một người bạn đồng hành rất tốt trong việc trao đổi theo kiểu trò chuyện hoặc hỏi đáp.

Để thử nghiệm, người dùng cần tạo tài khoản trên trang web của nhà phát hành Open AI (Mỹ) và bắt đầu trò chuyện. ChatGPT có thể tán gẫu, trả lời câu hỏi, tạo nội dung, viết mã và sửa lỗi chính tả, làm bài kiểm tra, thao tác dữ liệu, giải thích và dạy kèm,...

Sau khi đọc qua tất cả các khả năng ở trên, bạn có thể nghĩ: “ChatGPT thật tuyệt vời! Có vẻ như nó có thể làm mọi thứ mà Google có thể và hơn thế nữa! Vậy ChatGPT có biết mọi thứ và sẽ thay thế Google không?”

Thật vậy, nhiều người nhận thấy kết quả của ChatGPT “tốt hơn một cách khó tin” so với công cụ tìm kiếm của Google. Tuy nhiên, có hai điểm thú vị: Một là ChatGPT được đào tạo trên dữ liệu và không thể truy cập internet hoặc cung cấp kết quả tìm kiếm. Hai là phần mềm chỉ cố gắng cung cấp kết quả chính xác với khả năng tốt nhất của nó mà không thực sự xác minh điều đó là đúng hay sai.

Vì vậy, có ít nhất hai hạn chế nghiêm trọng với ChatGPT: Hạn chế về dữ liệu đào tạo và hạn chế về việc cung cấp câu trả lời đúng. Những hạn chế này có nghĩa rằng ChatGPT sẽ không thể thay thế Google.

Vì ChatGPT là một mô hình ngôn ngữ nên nó chắc chắn sẽ cung cấp các câu trả lời sai. Nhà khoa học máy tính Andew Ng chỉ ra rằng ChatGPT có thể đưa ra những kết quả “đôi khi sai một cách buồn cười”.

Có lúc ChatGPT tạo ấn tượng rằng nó rất tự tin vào câu trả lời của mình. ngay cả khi đó là một câu trả lời sai, điều này có thể gây hại -  trừ khi bạn vốn biết câu trả lời đúng là gì.

Bởi ChatGPT có thể cung cấp thông tin sai, diễn đàn về phần mềm StackOverflow thậm chí đã cấm các thành viên sử dụng ChatGPT, viện dẫn lý do: “Nhìn chung, vì tỷ lệ trung bình nhận được câu trả lời đúng từ ChatGPT quá thấp, việc đăng câu trả lời do ChatGPT tạo ra có hại đáng kể cho trang web và những người dùng đang tìm kiếm câu trả lời đúng”.

Giống như nhiều mô hình AI, ChatGPT bị hạn chế về dữ liệu đào tạo. Thiếu dữ liệu đào tạo và sai lệch trong dữ liệu đào tạo có thể phản ánh tiêu cực về kết quả mô hình.

Mặc dù ChatGPT hiện có thể chính xác hơn, nhưng kiến thức về của phần mềm vẫn chỉ giới hạn ở dữ liệu từ năm 2021 trở về trước. Ví dụ, vì kiến ​​thức của ChatGPT chỉ giới hạn ở năm 2021, phần mềm sẽ nói rằng Argentina đã 2 lần vô địch World Cup. Một lần vào năm 1978 và một lần nữa vào năm 1986. Hoàn toàn bỏ qua lần vô địch Worl Cup 2022.

ChatGPT cũng có thể tạo ra kết quả mang tính phân biệt đối xử. ChatGPT đã thể hiện sự thiên vị khi nói đến các nhóm thiểu số. Khi dữ liệu đào tạo bị sai lệch, mô hình chắc chắn sẽ bị sai lệch. Đây là một thách thức mà hầu hết mọi công cụ AI đều phải đối mặt, và điều quan trọng là nhà phát hành phải ghi nhớ và cân nhắc khi tìm cách đảm bảo sự công bằng, giảm sự thiên vị trong công nghệ.

Cuối cùng, có một chủ đề thảo luận trên Twitter về việc cần bao nhiêu nguồn tài nguyên GPU để chạy ChatGPT. ChatGPT là một trí thông minh nhân tạo mạnh và tốn rất nhiều tài nguyên để hoạt động. Hiện tại, ChatGPT vẫn đang duy trì chính sách miễn phí cho hầu hết người sử dụng, trừ khi bạn chọn trả 20 USD/tháng cho phiên bản nâng cấp.  Do đó, hiện không rõ ChatGPT sẽ tồn tại bền vững như thế nào và nó có thể hoạt động miễn phí trong bao lâu.

Linh La (theo USA Today, Anaconda)

 

news_is_not_ads=
TIN MỚI