Av John P. Desmond, AI-trender redaktör  

Cirka 500 affärs- och säkerhetsexperter på C-nivå från företag med mer än 5 miljarder dollar i intäkter i flera branscher uttryckte oro i en nyligen genomförd undersökning från Accenture om de potentiella säkerhetssårbarheterna som strävar efter AI, 5G och augmented reality-teknik samtidigt. .  

För att exempelvis träna AI-modeller måste företaget skydda den information som behövs för att utbilda AI och miljön där den skapas. När modellen används måste data i rörelse skyddas. Uppgifter kan inte samlas in på ett ställe, vare sig av tekniska eller säkerhetsskäl eller för skydd av immateriell egendom. “Därför tvingar det företag att införa säker inlärning så att de olika parterna kan samarbeta, säger Claudio Ordóñez, Ledare för cybersäkerhet för Accenture i Chile, i ett nytt konto i Marknadsundersökning Biz.  

Företagen måste utöka säkra programvaruutvecklingsmetoder, så kallade DevSecOps, för att skydda AI genom livscykeln. "Tyvärr finns det ingen silverkula för att försvara sig mot AI-manipulationer, så det kommer att vara nödvändigt att använda skiktade funktioner för att minska risken i affärsprocesser som drivs av artificiell intelligens," sade han. Åtgärderna inkluderar vanliga säkerhetsfunktioner och kontroller som indata desinficering, härdning av applikationen och inställning av säkerhetsanalys. Dessutom måste åtgärder vidtas för att ormdataintegritet, noggrannhetskontroll, manipuleringsdetektering, och kapacitet för tidig respons.    

Risk för modellutvinning och angrepp på integritet  

Maskininlärningsmodeller har visat några unika säkerhets- och integritetsfrågor. "Om en modell exponeras för externa dataleverantörer kan du riskera modellutdragning," Ordóñez varnade. I så fall hackaren kanske kan omvandla modellen och skapa en surrogatmodell som återger den ursprungliga modellens funktion, men med förändrade resultat. "Detta har uppenbara konsekvenser för konfidentialiteten för immateriella rättigheter", sade han.  

För att skydda mot modellutvinning och angrepp på integritet krävs kontroller. Vissa är lätta att tillämpa, till exempel hastighetsbegränsningar, men vissa modeller kan kräva mer sofistikerad säkerhet, till exempel onormal användningsanalys. Om AI-modellen levereras som en tjänst måste företagen överväga säkerhetskontroller på plats i molntjänstmiljön. “Öppen källkod eller externt genererade data och modeller ger attackvektorer för organisationer, ”uppgav Ordóñez, eftersom angripare kanske kan infoga manipulerade data och kringgå intern säkerhet.   

På frågan hur deras organisationer planerar att skapa den tekniska kunskap som behövs för att stödja framväxande teknik, sa de flesta respondenterna i Accenture-undersökningen att de skulle utbilda befintliga anställda (77%), skulle samarbeta eller samarbeta med organisationer som har erfarenheten (73%), anställ ny talang (73%) och förvärva nya företag eller nystartade företag (49%).  

Tiden det tar att utbilda proffs i dessa färdigheter underskattas, enligt Ordóñez. Dessutom "Respondenter antar att det kommer att finnas enorma talanger tillgängliga att hyra från AI, 5G, kvantberäkning och utökad verklighet, men verkligheten är att det finns och kommer att finnas en brist på dessa färdigheter på marknaden", sade han. "Att komplettera problemet kommer att bli ännu svårare att hitta säkerhetskunskap med dessa nya tekniska färdigheter", sade han.  

Funktionerna i 5G-tekniken ger upphov till nya säkerhetsproblem, inklusive virtualisering som expanderar attackytan och "hyper-exakt" spårning av attackplatser, vilket ökar integritetsproblemen för användare. "Liksom tillväxten av molntjänster har 5G potential att skapa skuggnätverk som fungerar utanför företagets kunskap och ledning", uttalade Ordóñez.  

"Enhetsregistrering måste innehålla autentisering för att hantera företagets attackyta. Utan det kan inte meddelandets integritet och användarens identitet garanteras, säger han. Företagen kommer att behöva åtagandet från Chief Information Security Officer (CISO) för att vara effektiva. "Framgång kräver betydande CISO-engagemang och expertis inom cyberriskhantering från början och under den dagliga innovationen, inklusive att ha rätt tänkesätt, beteenden och kultur för att få det att hända."  

Augmented reality introducerar också en rad nya säkerhetsrisker, med frågor om säkerhet kring plats, förtroendeigenkänning, innehållet i bilder och omgivande ljud och "innehållsmaskering." När det gäller detta kan "Kommandot" öppna denna ventil "riktas till fel föremål och generera en katastrofal aktivering", föreslog Ordóñez.  

Tekniker för att skydda dataskydd i 5G Era 

Dataintegritet är en av de viktigaste frågorna under årtiondet, eftersom AI utvidgas och fler regelverk införs samtidigt. Flera datahanteringstekniker kan hjälpa organisationer att följa och vara säkra, föreslog Jiani Zhang, ordförande för Alliance and Industrial Solution Unit på Persistent Systems, där hon arbetar nära IBM och Red Hat för att utveckla lösningar för kunder, som nyligen rapporterades i Enterprisers-projektet. 

Federerat lärande. I ett fält med känslig användardata som hälso- och sjukvård, var det senaste decenniets traditionella visdom att ”unsilo” data när det var möjligt. Samlingen av data som är nödvändig för att utbilda och distribuera algoritmer för maskininlärning har dock skapat "allvarliga integritets- och säkerhetsproblem", särskilt när data delas inom organisationer. 

I en federerad inlärningsmodell förblir data säkra i sin miljö. Lokala ML-modeller tränas i privata datamängder och modelluppdateringar flödar mellan datamängderna som ska aggregeras centralt. "Uppgifterna behöver aldrig lämna sin lokala miljö", säger Zhang.   

”På detta sätt förblir uppgifterna säkra samtidigt som de fortfarande ger organisationerna” visdom från publiken ”." sade hon. "Federerad inlärning minskar risken för en enstaka attack eller läcka som äventyrar integriteten för all information, för i stället för att sitta i ett enda arkiv sprids uppgifterna ut bland många."  

Förklarbar AI (XAI). Många AI / ML-modeller, särskilt neuronnätverk, är svarta lådor vars ingångar och funktioner inte är synliga för intresserade parter. Ett nytt forskningsområde är förklarbarhet, som använder tekniker för att skapa transparens, såsom beslutsträd som representerar ett komplext system, för att göra det mer ansvarsfullt.   

"Inom känsliga områden som hälso- och sjukvård, bank, finansiella tjänster och försäkringar kan vi inte blint lita på AI-beslutsfattande, säger Zhang. En konsument som avvisats för ett banklån har till exempel rätt att veta varför. "XAI bör vara ett stort fokusområde för organisationer som utvecklar AI-system i framtiden", föreslog hon. 

AI Ops / ML Ops. Tanken är att påskynda hela ML-modellens livscykel genom att standardisera operationer, mäta prestanda och automatiskt åtgärda problem. AIOps kan tillämpas på följande tre lager: 

• Infrastruktur: Med automatiserade verktyg kan organisationer skala sin infrastruktur och hålla jämna steg med kapacitetskraven. Zhang nämnde en framväxande delmängd av DevOps som heter GitOps, som tillämpar DevOps-principer på molnbaserade mikrotjänster som körs i behållare.  
• Application Performance Management (APM): Organisationer använder APM för att hantera stillestånd och maximera prestanda. APM-lösningar innehåller en AIOps-metod, med hjälp av AI och ML för att proaktivt identifiera problem snarare än att reagera.  
• IT-servicehantering (ITSM): IT-tjänster spänner över hårdvara, programvara och datorresurser i massiva system. ITSM tillämpar AIOps för att automatisera biljettarbetsflöden, hantera och analysera incidenter och auktorisera och övervaka dokumentation bland dess ansvarsområden. 

Läs källartiklarna i  Marknadsundersökning Biz, i den relaterade rapporten från Accenture och in Enterprisers-projektet. 

Kassa PrimeXBT
Handla med de officiella CFD-partnerna i AC Milan
Det enklaste sättet att sätta handel med krypto.
Källa: https://www.aitrends.com/ai-and-5g/convergence-of-ai-5g-and-augmented-reality-poses-new-security-risks/