Ni pipẹ ṣaaju ipari 2023, o ti jẹ ade tẹlẹ bi ọdun ti AI ipilẹṣẹ. Ti gbejade nipasẹ dide ti awọn awoṣe bii ChatGPT ti o ṣe agbejade alaye, awọn idahun eniyan ti o ni aibikita si awọn itọsi olumulo, awọn amoye ati awọn alakọbẹrẹ bẹrẹ ṣiṣaro lori awọn ipa agbara ti imọ-ẹrọ lori iṣẹ, eto-ẹkọ, ati ẹda.

Ṣugbọn lakoko ti awọn awoṣe ede nla ti ode oni (LLMs) ni agbara iyalẹnu, wọn tun jẹ ipalara iyalẹnu, Ọjọgbọn Khoury Alina Oprea sọ. O n ṣe ikẹkọ AI ni aaye cybersecurity fun diẹ sii ju ọdun mẹwa lọ, ati laipẹ ṣe akọwe kan ijabọ kan ti o ṣagbe sinu awọn ikọlu wọnyi lori AI - bii wọn ṣe n ṣiṣẹ, bii wọn ṣe pin wọn, ati bii wọn ṣe le (ati pe ko le) jẹ idinku.

“O nira gaan lati tọju ipilẹṣẹ AI ni aabo,” Oprea sọ. “Iwọn ti awọn awoṣe wọnyi ati data ikẹkọ wọn yoo dagba ni akoko pupọ, eyiti o jẹ ki awọn ikọlu wọnyi rọrun nikan. Ati ni kete ti o bẹrẹ sọrọ nipa AI ipilẹṣẹ ti o kọja ọrọ si awọn aworan ati ọrọ, aabo di ibeere ti o ṣii pupọ. ”

Ijabọ naa, ti a tẹjade nipasẹ Ẹka ti Iṣowo ti Orilẹ-ede ti Awọn ajohunše ati Imọ-ẹrọ (NIST), jẹ imudojuiwọn ti ijabọ naa Oprea ti a kọ ni ọdun to kọja pẹlu NIST's Apostol Vassilev. Ijabọ ibẹrẹ yẹn ṣe pẹlu AI asọtẹlẹ aṣa diẹ sii, ṣugbọn pẹlu ipilẹṣẹ AI ti n gbamu ni gbaye-gbale lati igba naa, Opera ati Vassilev ṣe itẹwọgba ipilẹṣẹ AI awọn amoye Alie Fordyce ati Hyrum Anderson lati Ọgbọn Alagidi lati faagun idawọle iṣẹ akanṣe naa.

“Nisisiyi a ni awọn ọmọ ile-iwe giga, ijọba, ati ile-iṣẹ ṣiṣẹ papọ,” Oprea ṣe akiyesi, “eyiti o jẹ olugbo ti a pinnu fun ijabọ naa.”

Gẹgẹbi ijabọ naa, awọn awoṣe AI ipilẹṣẹ jẹ gbese ailagbara wọn si ọpọlọpọ awọn ifosiwewe. Fun ọkan, Oprea ṣe akiyesi, ọpọlọpọ awọn ikọlu jẹ “rọrun ni irọrun lati gbe soke ati nilo imọ kekere ti eto AI.” Fun omiiran, awọn eto data ikẹkọ nla ti awọn awoṣe ti tobi ju fun eniyan lati ṣe atẹle ati fọwọsi. Ati koodu underpinning awọn awoṣe ti wa ni ko aládàáṣiṣẹ; o gbarale iwọntunwọnsi eniyan ati pe o farahan si idasi eniyan irira.

Imudaniloju, sọ pe quartet ti awọn oniwadi, jẹ awọn iru ikọlu mẹrin mẹrin ti o daru awọn eto AI ati ki o jẹ ki wọn ṣiṣẹ aiṣedeede: awọn ikọlu evasion ti o paarọ awọn igbewọle awoṣe lati yi awọn idahun rẹ pada, awọn ikọlu oloro ti o ba awọn algoridimu ipilẹ ti awoṣe jẹ tabi data ikẹkọ, ikọkọ. kọlu ti o coax awoṣe sinu ṣiṣafihan data ikẹkọ ifura gẹgẹbi alaye iṣoogun, ati awọn ikọlu ilokulo ti o ifunni alaye ti ko tọ si awọn orisun to tọ ti awoṣe kọ ẹkọ lati. Nipa ifọwọyi awọn igbewọle awoṣe, awọn ikọlu le yan awọn abajade rẹ ni ilosiwaju.

“Eyi le ṣee lo fun awọn idi iṣowo, fun ipolowo, fun ipilẹṣẹ àwúrúju malware tabi ọrọ ikorira - awọn nkan ti awoṣe kii yoo ṣe ipilẹṣẹ,” Oprea ṣalaye.

Laisi gbigbe owo-ori fun ara wọn, awọn oṣere irira le ṣakoso data wẹẹbu ti awoṣe AI ṣe ikẹkọ lori, ṣafihan ẹnu-ọna ẹhin kan, ati lẹhinna ni ifura dari ihuwasi awoṣe lati ibẹ. Fi fun awọn exploding gbale ti awọn wọnyi si dede, iru backdoors yoo jẹ nipa to lori ara wọn. Ṣugbọn bibajẹ ko duro nibẹ.

“Ni bayi a ni awọn ohun elo imudarapọ ti o lo awọn LLM. Fun apẹẹrẹ, ile-iṣẹ kan kọ oluranlowo imeeli kan ti o ṣepọ pẹlu LLM kan ni abẹlẹ, ati pe o le ka awọn apamọ rẹ bayi ki o firanṣẹ awọn imeeli fun ọ, ”Oprea sọ. “Ṣugbọn awọn ikọlu le lo ohun elo kanna lati firanṣẹ malware ati àwúrúju si ẹgbẹẹgbẹrun eniyan. Ilẹ ikọlu ti pọ si nitori a n ṣepọ awọn LLM sinu awọn ohun elo wọnyi.”

Bi apanirun ati ewu bi ọrọ ikorira ati àwúrúju ọpọ jẹ, paapaa awọn ifiyesi aabo ti o tobi julọ wa lori ipade.

"Diẹ ninu awọn ohun elo jẹ pataki-ailewu, bi awọn ọkọ ayọkẹlẹ awakọ ti ara ẹni,” Oprea sọ. "Ti awọn awoṣe wọnyẹn ba sọ awọn asọtẹlẹ ti ko tọ, wọn ko le ṣee lo.”

Nitorina kini a le ṣe? Ẹgbẹ naa pese ijabọ naa, eyiti wọn gbero lati ṣe imudojuiwọn ni ọdọọdun, fun awọn olugbo diẹ - awọn olupilẹṣẹ eto imulo, awọn olupilẹṣẹ AI, ati awọn ọmọ ile-iwe ti o le lo owo-ori ijabọ naa gẹgẹbi ipilẹ tabi ipo fun iṣẹ tiwọn. Gbogbo awọn ẹgbẹ wọnyi, Oprea sọ pe, ni iṣẹ lati ṣe lati rii daju pe awọn awoṣe AI ṣe deede si awọn iye eniyan, tọju aṣiri, ati ṣiṣẹ ni anfani ti o dara julọ ti awọn olumulo. Ṣugbọn o jẹwọ pe didojukọ gbogbo ọran ti o dide ninu ijabọ naa jẹ nija, ati pe ẹnikẹni ti o yanju awọn ojutu kuku ju awọn idinku jẹ aṣiṣe pupọ.

"Ọpọlọpọ awọn ikọlu diẹ sii ju awọn idinku, ati fun gbogbo idinku ti a mẹnuba, iṣowo kan wa tabi iṣẹ ṣiṣe, pẹlu ibajẹ ti deede awoṣe,” Oprea kilọ. “Awọn ilọkuro ko wa fun ọfẹ ati aabo AI jẹ igbiyanju nija gaan, ṣugbọn a nireti pe ijabọ naa pese aaye ibẹrẹ ti o wulo fun oye awọn ikọlu naa.”

• SEO Agbara akoonu & PR Pinpin. Gba Imudara Loni.
• PlatoData.Network inaro Generative Ai. Fi agbara fun ara Rẹ. Wọle si Nibi.
• PlatoAiStream. Web3 oye. Imo Amugbadun. Wọle si Nibi.
• PlatoESG. Erogba, CleanTech, Agbara, Ayika, Oorun, Isakoso Egbin. Wọle si Nibi.
• PlatoHealth. Imọ-ẹrọ Imọ-ẹrọ ati Awọn Idanwo Ile-iwosan. Wọle si Nibi.
• Orisun: https://www.mtlc.co/in-the-age-of-chatgpt-ai-models-are-massively-popular-and-easily-compromised/