PNO - Nghiên cứu mới từ tổ chức Palisade Research (Mỹ) cảnh báo AI hiện đã có khả năng tự sao chép sang các máy tính khác, đặt ra thách thức lớn trong việc kiểm soát công nghệ này.
 |
| Trong tương lai, viễn cảnh về một “virus AI” không còn là nỗi sợ vô căn cứ - Ảnh: Klaus Ohlenschlaeger/Alamy |
Khả năng tự phát tán ngoài tầm kiểm soát
Nghiên cứu mới từ tổ chức Palisade Research có trụ sở tại thành phố Berkeley, bang California (Mỹ) đã phát hiện các hệ thống AI hiện nay có thể độc lập tự sao chép chính mình sang những máy tính khác.
Theo ông Jeffrey Ladish, giám đốc Palisade Research, thế giới đang tiến rất gần đến thời điểm mà con người khó lòng dập tắt một AI "nổi loạn". Lý do là vì chúng có khả năng tự phát tán các thông số dữ liệu và nhân bản trên hàng ngàn máy tính toàn cầu thông qua mạng internet.
Đây không phải là lần đầu tiên những năng lực bất thường của AI được ghi nhận. Trước đó, các nhà nghiên cứu tại công ty Alibaba (Trung Quốc) từng phát hiện hệ thống AI mang tên Rome tự tìm cách thoát khỏi môi trường thiết lập để thâm nhập hệ thống bên ngoài nhằm đào tiền ảo.
Hay vào tháng Hai, mạng xã hội Moltbook cũng gây xôn xao khi các tác vụ AI dường như đang tự xây dựng kế hoạch chống lại con người. Những minh chứng này cho thấy kịch bản AI tự nhân bản để tồn tại dai dẳng trên không gian mạng không còn là chuyện viễn tưởng.
Rào cản thực tế và những giới hạn kỹ thuật
Tuy nhiên, các chuyên gia bảo mật cũng lưu ý rằng nghiên cứu của Palisade Research được thực hiện trong môi trường thử nghiệm có kiểm soát với nhiều lỗ hổng thiết lập sẵn.
Chuyên gia bảo mật Jamieson O’Reilly cho rằng việc một mô hình AI có kích thước lên đến hàng trăm GB di chuyển qua mạng doanh nghiệp sẽ tạo ra những dấu vết cực kỳ rõ ràng và dễ dàng bị phát hiện.
Đối với những người giám sát có kỹ năng, hành động này giống như việc một con voi khổng lồ cố đi xuyên qua cửa hàng đồ sứ mà không gây ra tiếng động.
Bên cạnh đó, rào cản kỹ thuật thực tế vẫn còn rất lớn khi các hệ thống mạng của ngân hàng hay doanh nghiệp luôn có sự giám sát chặt chẽ. Chuyên gia Michał Woźniak nhận định rằng dù kết quả nghiên cứu rất thú vị nhưng nó chưa phải là điều khiến các chuyên gia an ninh thông tin phải mất ngủ.
Hiện tại, sự khác biệt giữa một nghiên cứu trong môi trường giả lập và một kịch bản AI "nổi loạn" ngoài đời thực vẫn còn khoảng cách rất xa nhờ vào các lớp phòng thủ kỹ thuật và kích thước dữ liệu cồng kềnh của chính các mô hình trí tuệ nhân tạo.
Linh La (theo The Guardian)
| Chia sẻ bài viết: |
Thực phẩm siêu chế biến đang bào mòn trí tuệ người dùng
Suy giảm sức khỏe trước tuổi nghỉ hưu lan rộng toàn cầu
Trẻ em nông thôn dễ trầm cảm hơn trẻ thành thị
'Oscar khoa học' vinh danh liệu pháp gen giúp phục hồi thị lực ở người bị mù di truyền
WHO phê duyệt phương pháp điều trị sốt rét đầu tiên dành riêng cho trẻ sơ sinh
Quân đội Mỹ đã nổ súng vào một tàu chở dầu treo cờ Iran khi con tàu này tìm cách phá vỡ lệnh phong tỏa các cảng Iran do Washington áp đặt.
Tính đến nay, ít nhất 3 người thiệt mạng và 8 trường hợp được xác nhận hoặc nghi ngờ nhiễm vi rút Hanta, liên quan tàu thám hiểm mang cờ Hà Lan.
Đây là lần đầu tiên việc cấy ghép mô tinh hoàn được đông lạnh diễn ra thành công, mở ra khả năng sản sinh tinh trùng ở những bệnh nhân vô sinh.
Từ Trung Quốc đến Mỹ, ngày càng nhiều người trẻ rời bỏ công việc truyền thống để khởi nghiệp một mình với sự hỗ trợ của trí tuệ nhân tạo (AI).
Ngày 6/5, Mỹ và Iran đang tiến sát tới một thỏa thuận sơ bộ dưới dạng bản ghi nhớ dài một trang nhằm chấm dứt xung đột tại vùng Vịnh.
Thẩm phán Shin Jong-o, người chủ trì phiên tòa phúc thẩm xét xử cựu Đệ nhất phu nhân Kim Keon Hee, đã được phát hiện tử vong vào rạng sáng nay (6/5).
Ngày 6/5, Tổng thống Trump tuyên bố tạm dừng chiến dịch quân sự mang tên “Dự án Tự do” – hoạt động nhằm hộ tống tàu thương mại qua eo biển Hormuz.
Giới chức y tế quốc tế đang triển khai phương án sơ tán khẩn cấp các ca nghi nhiễm vi rút Hanta trên tàu du lịch MV Hondius.
Thủ tướng Ý Giorgia Meloni đã lên tiếng chỉ trích mạnh mẽ việc lan truyền các hình ảnh giả mạo do AI tạo ra, sau khi nhiều bức ảnh deepfake của bà.
Chính quyền Tổng thống Donald Trump đang đối mặt với vụ kiện liên quan đến việc đổ phế thải từ Nhà Trắng ra một sân golf công cộng.
Ngày 5/5, Ngoại trưởng Marco Rubio tuyên bố Mỹ đã tạm ngưng các hoạt động tấn công nhằm vào Iran.
Trong kỷ nguyên số, việc đối mặt với một chatbot thay vì con người khi đi xin việc dần trở nên phổ biến.
Số vụ ly hôn giữa các cặp vợ chồng sống chung hơn 30 năm tại Hàn Quốc lần đầu tiên vượt qua số vụ ly hôn của các đôi mới cưới.
Ngày 5/5, Tổng thống Donald Trump cho biết Mỹ “đã giành chiến thắng” trong cuộc xung đột quân sự với Iran, đồng thời dự báo giao tranh có thể tiếp diễn.
Chán nản với những cú 'quẹt phải - quẹt trái' thiếu cảm xúc, nhiều người trẻ tại Mỹ chọn một cách hẹn hò khác là gặp gỡ trực tiếp trong siêu thị.
Ngày 5/5, xung đột giữa Mỹ và Iran đang bước vào giai đoạn căng thẳng mới khi các cuộc tấn công quân sự gia tăng tại vùng Vịnh.
Ngày 4/5, một nghi phạm đã nổ súng khi đối mặt lực lượng thực thi pháp luật tại khu National Mall, thủ đô Washington, D.C.
Elon Musk đạt thỏa thuận dàn xếp với Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) trong vụ kiện liên quan đến thương vụ mua Twitter.
