Den senaste tidens hajp kring AI gör att varje organisation känner att de måste ompröva sin strategi för att säkerställa att de är i linje med marknadens förväntningar och inte låter konkurrenterna få en fördel. AI har varit i nyheterna ett tag, men när ChatGPT introducerades började människor utanför verksamheten utforska tekniken i den utsträckningen att den började påverka deras liv direkt. Det öppnade också dörren för människor att vara intresserade av att utforska möjligheterna med AI överlag. 

Nyckelingrediensen till en framgångsrik AI-strategin är datan. Ju större träningsdatauppsättningen är, desto mer exakt förväntas modellen vara. Med data som genereras från olika datacenter vid kanten, och från molnet, är det avgörande att rätt datamängder används för utbildningsändamål och sedan distribueras på lämpligt sätt för att få bästa resultat. 

Den här artikeln utforskar utmaningarna förknippade med att implementera AI-lösningar vid kanten och de viktigaste åtgärderna som krävs för att genomföra en framgångsrik AI-strategi. 

Varför AI at the Edge?

Den primära avsikten med att ha en edge-lösning är att leverera låg latens eftersom lösningen ligger närmare kunden och kan hantera förfrågningar snabbt. Med AI-lösningar för olika tekniker som autonoma fordon, hälsovård, IoT-enheter, personlig reklam och andra som distribueras vid kanten, finns det flera associerade fördelar: 

• Kostnadsoptimering: Flytta all data till molnet skapar drifts- och kostnadspress på grund av den tid, pengar och värde som är involverade. Ju högre datavolym, desto mer ekonomisk börda ådrar sig en organisation. Bearbetning av data vid kanten avlastar dessa bördor.

• Pålitlighet: För att organisationer ska kunna tillhandahålla låg latens och ett snabbare svar på förfrågningar är höghastighetsanslutning mellan olika moduler ett måste. Att skicka all data till molnet är inte ett genomförbart alternativ när det finns begränsningar för nätverkets bandbredd och dess effektivitet. 

• Säkerhet: Med AI-modellerna vid kanten bearbetas all data vid kanten. Detta minskar oron för potentiella säkerhetsexponeringar under överföring till molnet. 

Utmaningar för Edge AI Solutions

Som nämnts ovan är data den största faktorn när det gäller att bygga en effektiv AI-baserad lösning. Det finns dock flera utmaningar som organisationer måste förstå och övervinna för att kunna implementera en effektiv AI-strategi med edge-distributioner. 

Olika data: Organisationer förväntas med största sannolikhet samla in data från olika källor, och varje kantcenter förväntas generera en enorm mängd data. I denna typ av scenario förväntas data som genereras från flera datacenter inte ha ett enhetligt mönster. I situationer där data som genereras är olika och det saknas mönster i data som genereras från olika kantdatacenter, är modellens komplexitet mycket hög. I denna typ av situation är en enda modell för alla edge-distributioner inte möjlig. 

Beräkningskraft: Ur ett hårdvaruperspektiv kräver AI mycket datorkraft. Att köra AI-baserade applikationer vid kanten skulle kräva följande: 

• Central Processing Unit (CPU) för bearbetning av modellen
• Graphics Processing Unit (GPU) för när det finns några massiva och komplexa beräkningsalgoritmer med djupinlärning
• Minne i höga volymer för att bearbeta AI-applikationer
• Nätverk för när data eller modeller behöver överföras till flera platser
• Lagringen måste vara lokal för att kunna hantera data

Hårdvarukraven för edge-distributioner i allmänhet har också många begränsningar på grund av lokala regler och lagar, så att uppfylla kriterierna för att distribuera AI-baserade modeller är en stor utmaning. 

Förordningarna: För att AI ska fungera effektivt måste modellen tränas med betydande mängder data. När det gäller edge-distributioner kan data komma från vilken geografisk plats som helst. Obegränsad tillgång till data krävs för att modellen ska fungera effektivt. Men med GDPR-förordningar och andra internationella lagar är det fria flödet av data en enorm utmaning; Därför är det inte möjligt att bygga en effektiv modell när data från edge-distributioner har transportrelaterade restriktioner. 

Hur man implementerar en effektiv AI-strategi för Edge

En effektiv datahanteringsstrategi som kan hantera alla utmaningar som är förknippade med edge-distributioner är avgörande när man överväger AI vid kanten. Följande måste beaktas:

• Initial dataanalys måste utföras och kantsajter som producerar liknande data bör grupperas tillsammans. Denna aktivitet måste göras så att organisationer sedan kan titta på potentiellt distribuera liknande modeller på dessa kantplatser. Detta tillvägagångssätt skulle också potentiellt minska dubbelarbete när man bygger modeller. 

• Om de juridiska reglerna tillåter att data skickas till molnet bör träningsdata skickas till molnet och modeller ska byggas även där. Efter att en modell har byggts framgångsrikt kan den distribueras på kantplatsen. Detta kommer att säkerställa att edge-webbplatser är fokuserade på att bearbeta kritisk data och lämplig användning av resurser, och inte på att bygga modeller. Modellens prestanda bör sedan ses över med jämna mellanrum och bör uppdateras på lämpligt sätt. Men om det finns lagar och regler som inte tillåter att data skickas till molnet, bör offlinebearbetning av träningsdata övervägas och modeller bör byggas på lämpligt sätt på den bästa platsen. 

• Med de senaste framstegen inom datorområdet är GPU-processorer nu tillgängliga för utplacering vid kanten. När det är möjligt bör organisationer överväga att implementera för högre bearbetningshastighet, särskilt när edge-webbplatser hanterar videor, bilder och annan komplex data. 

• För att mildra farhågor kring begränsad nätverksanslutning till molnet bör organisationer överväga att utnyttja 5G-nätverket. 5G-nätverket har förmågan att ge högre bandbredd, låg latens och anslutning till fjärrplatser. Detta gör att datasynkronisering och migrering av modeller kan ske i en snabbare takt. Detta gör det också möjligt för organisationer att konsolidera resultat från edge-sajter och ge en heltäckande bild till lämpliga intressenter. 

Sammanfattning

Molnbaserade AI-lösningar erbjuder många fördelar. Men det finns också begränsningar förknippade med dataöverföring från olika källor till molnet, och förutom det finns det säkerhets- och latensproblem. På grund av dessa farhågor är kantbaserad AI ett attraktivt alternativ. Edge-installationer är i ett moget stadium nu, och med framsteg inom maskininlärningsmodeller och spridningen av olika smarta system – tillsammans med fokuserade förbättringar mot kantbaserad hårdvara – kommer kantbaserad AI att fortsätta att expandera och införas inom en snar framtid.  

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://www.dataversity.net/ai-at-the-edge-creating-a-successful-strategy/