Các nhà nghiên cứu đã tạo ra một loại sâu AI mới – Morris II, có thể đánh cắp dữ liệu bí mật, gửi email spam và phát tán phần mềm độc hại bằng nhiều phương pháp khác nhau. Được đặt theo tên con sâu đầu tiên làm rung chuyển Internet vào năm 1988, tài liệu nghiên cứu cho thấy rằng sâu AI có thể tự lây lan giữa các hệ thống trí tuệ nhân tạo.
Giun AI là gì?
Sâu AI là mối đe dọa mạng mới khai thác các hệ thống AI tổng hợp để tự động phát tán, tương tự như sâu máy tính truyền thống nhưng nhắm mục tiêu vào các hệ thống hỗ trợ AI.
Morris II là gì?
Morris II, được chế tạo bởi Ben Nassi từ Cornell Tech, Stav Cohen từ Viện Công nghệ Israel và Ron Button từ Intuit, đã gây chấn động khắp thế giới công nghệ. Bài nghiên cứu mô tả chi tiết chức năng của nó làm sáng tỏ khả năng xâm nhập vào các hệ thống AI tổng hợp, gây ra mối đe dọa đáng kể đối với bảo mật và quyền riêng tư dữ liệu. Sâu AI này nhắm mục tiêu vào một loạt các ứng dụng hỗ trợ AI, bao gồm trợ lý email và các chatbot phổ biến như ChatGPT và Gemini.
Cũng đọc: Kỷ nguyên của LLM 1-Bit: Công nghệ đột phá của Microsoft
Morris II hoạt động như thế nào?
Tận dụng các lời nhắc tự sao chép, Morris II điều hướng qua các hệ thống AI mà không bị phát hiện, trích xuất thông tin bí mật một cách hiệu quả. Các nhà nghiên cứu đã chứng minh cách Morris II khai thác các lỗ hổng trong hệ thống AI, sử dụng lời nhắc bằng văn bản để thao tác các mô hình ngôn ngữ lớn như GPT-4 và Gemini Pro. Sâu này vượt qua các biện pháp bảo mật bằng cách tận dụng dữ liệu bổ sung, cho phép nó trích xuất dữ liệu nhạy cảm như số an sinh xã hội và thông tin thẻ tín dụng.
Không dừng lại ở đó, Morris II sử dụng kỹ thuật nhắc nhở bằng hình ảnh để nhúng các lời nhắc có hại vào trong ảnh, cho phép tự động chuyển tiếp các tin nhắn bị nhiễm đến các ứng dụng email mới. Chiến thuật quỷ quyệt này càng khuếch đại phạm vi tiếp cận của sâu, tạo điều kiện cho phần mềm độc hại và email spam phát tán.
Con đường phía trước cho hệ thống AI
Để đối phó với phát hiện đáng báo động này, các nhà nghiên cứu đã nhanh chóng cảnh báo cả OpenAI và Google, kêu gọi họ giải quyết các lỗ hổng trong hệ thống của mình. Mặc dù Google chọn không phản hồi nhưng người phát ngôn của OpenAI đã đảm bảo với chúng tôi rằng họ đang tích cực tăng cường tính bảo mật cho hệ thống của mình. Họ khuyên các nhà phát triển nên thực hiện các biện pháp nghiêm ngặt để giảm thiểu rủi ro khi xử lý các đầu vào có khả năng gây hại.
nói của chúng tôi
Sự xuất hiện của Morris II nhấn mạnh nhu cầu cấp thiết về các biện pháp an ninh mạng mạnh mẽ trong một thế giới ngày càng được định hướng bởi AI. Khi bối cảnh kỹ thuật số phát triển, các tổ chức bắt buộc phải ưu tiên các giao thức bảo mật để bảo vệ khỏi các mối đe dọa mới nổi và bảo vệ dữ liệu nhạy cảm khỏi các tác nhân độc hại.
Theo dõi chúng tôi tại Google Tin tức để luôn cập nhật những cải tiến mới nhất trong thế giới AI, Khoa học dữ liệu và GenAI.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://www.analyticsvidhya.com/blog/2024/03/this-ai-worm-can-steal-your-confidential-data/
