Os pesquisadores criaram um novo worm de IA – Morris II, que pode roubar dados confidenciais, enviar e-mails de spam e espalhar malware usando vários métodos. Nomeado em homenagem ao primeiro worm que abalou a Internet em 1988, o artigo de pesquisa sugere que o worm generativo de IA pode se espalhar entre sistemas de inteligência artificial.
O que são worms de IA?
Os worms de IA são uma nova ameaça cibernética que explora sistemas generativos de IA para se espalharem de forma autônoma, semelhante aos worms de computador tradicionais, mas visando sistemas alimentados por IA.
O que é Morris II?
Morris II, criado por Ben Nassi da Cornell Tech, Stav Cohen do Instituto de Tecnologia de Israel e Ron Button da Intuit, enviou ondas de choque pelo mundo da tecnologia. O artigo de pesquisa que detalha sua funcionalidade esclarece sua capacidade de se infiltrar em sistemas generativos de IA, representando uma ameaça significativa à segurança e privacidade dos dados. Este worm de IA tem como alvo uma ampla gama de aplicativos com tecnologia de IA, incluindo assistentes de e-mail e chatbots populares como ChatGPT e Gemini.
Leia também: A era do LLM de 1 bit: a tecnologia inovadora da Microsoft
Como funciona o Morris II?
Aproveitando prompts autorreplicáveis, o Morris II navega pelos sistemas de IA sem ser detectado, extraindo informações confidenciais com eficiência. Os pesquisadores demonstraram como o Morris II explora vulnerabilidades em sistemas de IA, utilizando prompts de texto para manipular grandes modelos de linguagem como GPT-4 e Gemini Pro. O worm contorna as medidas de segurança aproveitando dados extras, permitindo extrair dados confidenciais, como números de previdência social e informações de cartão de crédito.
Não parando por aí, o Morris II emprega técnicas de prompt de imagem para incorporar avisos prejudiciais em fotos, permitindo o encaminhamento automático de mensagens infectadas para novos clientes de e-mail. Essa tática insidiosa amplia ainda mais o alcance do worm, facilitando a disseminação de malware e e-mails de spam.
Muito à frente para sistemas de IA
Em resposta a esta descoberta alarmante, os investigadores alertaram imediatamente a OpenAI e a Google, instando-os a resolver as vulnerabilidades nos seus sistemas. Embora o Google tenha optado por não responder, um porta-voz da OpenAI garantiu-nos que eles estão melhorando ativamente a segurança de seus sistemas. Eles aconselharam os desenvolvedores a implementar medidas rigorosas para mitigar os riscos de lidar com insumos potencialmente prejudiciais.
nossa palavra
O surgimento do Morris II sublinha a necessidade crítica de medidas robustas de segurança cibernética num mundo cada vez mais impulsionado pela IA. À medida que o cenário digital evolui, é imperativo que as organizações priorizem protocolos de segurança para se protegerem contra ameaças emergentes e protegerem dados confidenciais de atores mal-intencionados.
Siga-nos no Google News para se manter atualizado com as últimas inovações no mundo da IA, ciência de dados e GenAI.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://www.analyticsvidhya.com/blog/2024/03/this-ai-worm-can-steal-your-confidential-data/
