Forskere har laget en ny AI-orm – Morris II, som kan stjele konfidensiell data, sende spam-e-poster og spre skadelig programvare ved hjelp av ulike metoder. Oppkalt etter den første ormen som rystet internett i 1988, antyder forskningsartikkelen at den generative AI-ormen kan spre seg mellom kunstige intelligenssystemer.
Hva er AI-ormer?
AI-ormer er en ny cybertrussel som utnytter generative AI-systemer for å spre seg autonomt, som ligner på tradisjonelle dataormer, men som er rettet mot AI-drevne systemer.
Hva er Morris II?
Morris II, laget av Ben Nassi fra Cornell Tech, Stav Cohen fra Israel Institute of Technology og Ron Button fra Intuit, har sendt sjokkbølger gjennom teknologiverdenen. Forskningsartikkelen som beskriver funksjonaliteten belyser dens evne til å infiltrere generative AI-systemer, og utgjør en betydelig trussel mot datasikkerhet og personvern. Denne AI-ormen retter seg mot et bredt spekter av AI-drevne applikasjoner, inkludert e-postassistenter og populære chatbots som ChatGPT og Gemini.
Les også: The Era of 1-Bit LLM: Microsofts banebrytende teknologi
Hvordan fungerer Morris II?
Ved å utnytte selvreplikerende meldinger navigerer Morris II gjennom AI-systemer uoppdaget, og trekker effektivt ut konfidensiell informasjon. Forskerne demonstrerte hvordan Morris II utnytter sårbarheter i AI-systemer, ved å bruke tekstmeldinger for å manipulere store språkmodeller som GPT-4 og Gemini Pro. Ormen omgår sikkerhetstiltak ved å utnytte ekstra data, slik at den kan trekke ut sensitive data som personnummer og kredittkortinformasjon.
For ikke å stoppe der, bruker Morris II teknikker for bildemeldinger for å bygge inn skadelige meldinger i bilder, og tillater automatisk videresending av infiserte meldinger til nye e-postklienter. Denne lumske taktikken forsterker ormens rekkevidde ytterligere, og letter spredningen av skadelig programvare og spam-e-poster.
Veien foran for AI-systemer
Som svar på denne alarmerende oppdagelsen varslet forskerne umiddelbart både OpenAI og Google, og oppfordret dem til å ta tak i sårbarhetene i systemene deres. Mens Google valgte å ikke svare, forsikret en talsperson fra OpenAI oss om at de aktivt forbedrer sikkerheten til systemene sine. De rådet utviklere til å implementere strenge tiltak for å redusere risikoen ved å håndtere potensielt skadelige input.
Vårt si
Fremveksten av Morris II understreker det kritiske behovet for robuste cybersikkerhetstiltak i en stadig mer AI-drevet verden. Etter hvert som det digitale landskapet utvikler seg, er det avgjørende at organisasjoner prioriterer sikkerhetsprotokoller for å beskytte mot nye trusler og beskytte sensitive data fra ondsinnede aktører.
Følg oss på Google Nyheter for å holde deg oppdatert med de siste innovasjonene innen AI, Data Science og GenAI.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://www.analyticsvidhya.com/blog/2024/03/this-ai-worm-can-steal-your-confidential-data/
