Des chercheurs ont créé un nouveau ver IA – Morris II, qui peut voler des données confidentielles, envoyer des spams et propager des logiciels malveillants en utilisant diverses méthodes. Nommé d'après le premier ver qui a secoué Internet en 1988, le document de recherche suggère que le ver génératif d'IA peut se propager entre les systèmes d'intelligence artificielle.
Que sont les vers IA ?
Les vers IA sont une nouvelle cybermenace qui exploite les systèmes d’IA générative pour se propager de manière autonome, à l’instar des vers informatiques traditionnels, mais ciblant les systèmes alimentés par l’IA.
Qu’est-ce que Morris II ?
Morris II, conçu par Ben Nassi de Cornell Tech, Stav Cohen de l'Institut israélien de technologie et Ron Button d'Intuit, a envoyé une onde de choc à travers le monde de la technologie. Le document de recherche détaillant ses fonctionnalités met en lumière sa capacité à infiltrer les systèmes d’IA générative, ce qui constitue une menace importante pour la sécurité et la confidentialité des données. Ce ver IA cible un large éventail d'applications basées sur l'IA, notamment les assistants de messagerie et les chatbots populaires comme ChatGPT ainsi que GEMINI.
Lisez aussi: L'ère du LLM 1 bit : la technologie révolutionnaire de Microsoft
Comment fonctionne Morris II ?
Tirant parti des invites auto-réplicatives, Morris II navigue dans les systèmes d'IA sans être détecté, extrayant efficacement les informations confidentielles. Les chercheurs ont démontré comment Morris II exploite les vulnérabilités des systèmes d'IA, en utilisant des invites textuelles pour manipuler de grands modèles de langage tels que GPT-4 et Gemini Pro. Le ver contourne les mesures de sécurité en exploitant des données supplémentaires, ce qui lui permet d'extraire des données sensibles telles que les numéros de sécurité sociale et les informations de carte de crédit.
Ne s'arrêtant pas là, Morris II utilise des techniques d'invite d'image pour intégrer des invites nuisibles dans les photos, permettant ainsi le transfert automatique des messages infectés vers de nouveaux clients de messagerie. Cette tactique insidieuse amplifie encore la portée du ver, facilitant la propagation des logiciels malveillants et des spams.
Une longueur d'avance pour les systèmes d'IA
En réponse à cette découverte alarmante, les chercheurs ont rapidement alerté OpenAI et Google, les exhortant à remédier aux vulnérabilités de leurs systèmes. Bien que Google ait choisi de ne pas répondre, un porte-parole d'OpenAI nous a assuré qu'ils renforçaient activement la sécurité de leurs systèmes. Ils ont conseillé aux développeurs de mettre en œuvre des mesures strictes pour atténuer les risques liés à la manipulation d'intrants potentiellement nocifs.
Notre avis
L’émergence de Morris II souligne la nécessité cruciale de mesures de cybersécurité robustes dans un monde de plus en plus axé sur l’IA. À mesure que le paysage numérique évolue, il est impératif que les organisations donnent la priorité aux protocoles de sécurité pour se prémunir contre les menaces émergentes et protéger les données sensibles des acteurs malveillants.
Suivez-nous sur Google Actualités pour rester à jour avec les dernières innovations dans le monde de l'IA, de la science des données et GénAI.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://www.analyticsvidhya.com/blog/2024/03/this-ai-worm-can-steal-your-confidential-data/
