PNO - Nghiên cứu từ Israel cho thấy, nhiều chatbot AI dễ bị “đánh lừa” để đưa ra những phản hồi nguy hiểm, cung cấp thông tin sai sự thật.
 |
| Có mối đe dọa ngày càng tăng từ các mô hình AI không an toàn — Ảnh: Press Association |
Các nhà khoa học từ Đại học Ben Gurion, ở vùng Beersheba của Israel, công bố nghiên cứu cho thấy: mối đe dọa từ các chương trình trí tuệ nhân tạo (AI) bị lạm dụng để lan truyền tin giả là “rõ ràng và đáng lo ngại”. Các chatbot này có nguy cơ bị lừa, để cung cấp kiến thức sai sự thật và nguy hiểm đến người dùng, theo báo The Guardian đưa tin ngày 21/5.
Giáo sư Lior Rokach - nhà khoa học máy tính ở khoa Kỹ thuật Phần mềm và Hệ thống Thông tin tại Đại học Ben Gurion - cảnh báo về mối đe dọa ngày càng tăng từ các “mô hình ngôn ngữ lớn” (Large Language Model).
Trong số các mô hình AI này, có những chatbot được thiết kế có chủ đích mà không có biện pháp kiểm soát an toàn, hoặc đã bị sửa đổi thông qua bẻ khóa.
Giáo sư Rokach chia sẻ, ông và các đồng nghiệp đã phát triển một công cụ bẻ khóa, có thể xâm nhập vào nhiều chatbot AI hàng đầu hiện nay, cho phép chúng trả lời các câu hỏi mà thông thường phải từ chối.
“Điều khiến mối đe dọa này khác biệt so với các rủi ro công nghệ trước đây là sự kết hợp chưa từng có giữa các khả năng tiếp cận, mở rộng và thích ứng” - vị chuyên gia nhận định.
Đại diện báo Chicago Sun-Times, ở bang Illinois của Hoa Kỳ, chia sẻ rằng một nhân viên của họ đã dùng AI để tạo ra “danh sách các sách để đọc mùa hè”, với “những cuốn sách không tồn tại”. Trong đó có Mùa gió lốc của Brit Bennett, Thị trường kính râm của Min Jin Lee, Ngày dài nhất của Rumaan Alam, Điểm sôi của Rebecca Makkai. Các tác giả được liệt kê đều có thật, nhưng thông tin sách là giả.
Cũng trên báo Chicago Sun-Times, có độc giả chỉ ra báo đã đăng bài có tựa Xu hướng thực phẩm mùa hè. Bài báo cung cấp thông tin trích dẫn từ một chuyên gia thực phẩm tên là Catherine Furst, được cho là thành viên của Đại học Cornell. Phía Đại học Cornell khẳng định không ai có tên như vậy ở đây.
Ông Rokach cảnh báo: “Có những công nghệ từng chỉ giới hạn ở các tổ chức nhà nước hoặc nhóm tội phạm có tổ chức, giờ đây chúng có thể được sử dụng bởi bất kỳ ai có máy tính xách tay hoặc thậm chí là điện thoại di động”.
Trường An (theo The Guardian)
| Chia sẻ bài viết: |
Tuổi thọ của người Nhật ngày càng cao, số lượng người già sống độc thân cũng càng nhiều.
Trung Quốc, Qatar, Thụy Sĩ và các nước khác đã cam kết tài trợ hơn 170 triệu USD cho Tổ chức Y tế Thế giới.
Người đẹp Zainab Jama đến từ Somalia cho biết hủ tục cắt âm vật (Female Genital Mutilation - FGM) vẫn tồn tại ở Somalia và cô cũng là nạn nhân.
Khi Nhật Bản già đi, ngày càng có nhiều người cao tuổi chuyển tiền bạc của họ sang từ thiện sau khi chết.
Tổng thống Mỹ Donald Trump ký dự luật khiến hành vi đăng “revenge porn” (ảnh nóng trả thù) trở thành tội phạm liên bang.
Một cuộc khảo sát mới cho thấy, gần một nửa số người trẻ tuổi muốn sống trong một thế giới mà internet không tồn tại.
Nghiên cứu từ Ireland cho thấy, việc lạm dụng thuốc lá điện tử khiến phổi gặp nhiều bệnh hô hấp, bao gồm những tổn thương không thể phục hồi.
Du lịch kiểu dưỡng sinh, chăm sóc sức khỏe với mục đích giảm căng thẳng, cải thiện tinh thần, thể chất và cả cảm xúc đang phát triển rất nhanh.
Cơ quan Quản lý Tình trạng Khẩn cấp Mông Cổ (NEMA) cho biết đã có 89 vụ cháy rừng và thảo nguyên được ghi nhận trên khắp nước này.
Các bác sĩ phẫu thuật ở Mỹ đã thực hiện ca ghép bàng quang lần đầu tiên và gọi đó là điều kỳ diệu.
Người đàn ông rơi từ chung cư ở Osaka tử vong, người đi xe đạp bên dưới cũng tử vong
Vụ sát hại một người mẫu 22 tuổi ở Colombia đã gây chấn động khắp đất nước làm nổi bật tỷ lệ giết phụ nữ cao ở Mỹ Latinh.
Chi phí tăng vọt tại nhiều điểm nghỉ dưỡng từng được ưa chuộng trên thế giới đang làm nản lòng du khách.
Theo một nghiên cứu gần đây, ngày càng có nhiều người Mỹ chọn cuộc sống yên bình bằng cách... không sinh con.
Cựu Tổng thống Mỹ Joe Biden đã được chẩn đoán mắc ung thư tuyến tiền liệt, theo một tuyên bố từ văn phòng của ông vào ngày 18/5.
Sự cố kiểm soát không lưu tại sân bay Paris-Orly đã khiến hàng trăm chuyến bay phải hủy bỏ và chậm trễ. Cơ quan hàng không cho biết tình trạng hỗn loạn.
Một cặp vợ chồng ở tây nam Trung Quốc đã gây ra một cuộc thảo luận sôi nổi trên mạng xã hội về chiều cao quá chênh lệch.
Hỏa hoạn bùng phát gần Gulzar House ở thành phố cổ Hyderabad, một khu vực gần di tích lịch sử Charminar, khiến 17 người thiệt mạng, trong đó có 8 trẻ em.
