Zephyrnet-logotyp

Komma före Shadow Generative AI – DATAVERSITET

Datum:

Som all ny teknik är många människor angelägna om att använda generativ AI för att hjälpa dem i sina jobb. Accenture forskning fann att 89 % av företagen tror att användning av generativ AI för att få tjänster att kännas mer mänskliga kommer att öppna upp fler möjligheter för dem. Detta kommer att tvinga fram förändring – Accenture fann också att 86 % av företagen trodde att de skulle behöva modernisera sin IT- och teknikinfrastruktur.

Utmaningen med detta är att företagsgenerativa AI-projekt kommer att ta tid att designa, testa, bygga och skala. Även med den snabba vägen till produktion som nya generativa AI-stackar erbjuder är risken att människor tar saker i egna händer. Detta kommer att leda till generativa AI-distributioner som inte finns i boken och utanför IT-området, kallat shadow AI. Dessa otillåtna distributioner av skugg-AI kommer att äga rum när företag inte deltar i konversationer tidigt kring generativ AI och förser team med de lågfriktionsverktyg de behöver för att lyckas. 

Säg till exempel att ett säljteam vill ha hjälp med att skriva sina e-postbrev och vill använda generativ AI i sina prospekteringsaktiviteter. Att lägga data till en publik stor språkmodell (LLM) kan hjälpa det teamet att bli mer produktivt, vinna fler affärer och sedan leverera tillväxt för verksamheten. Argumentet blir varför de ska sluta, och riskera att andra företag tar sig före?

Gå före den generativa AI-efterfrågan

Företag bör samarbeta med sina avdelningar om hur de tänker kring generativ AI och vad de vill förbättra. Detta kan ge möjligheter att engagera sig, lyssna på vad affärsteam vill ha och sedan planera för att ge en mer komplett strategi. Det kan också vara ett tillfälle att ge teamen råd om vad som är möjligt, gå in på fördelarna och avslöja eventuell hype eller missuppfattningar. 

Dessa samtal kan ge teammedlemmar en möjlighet att upptäcka mer om de affärsproblem som deras kollegor möter, och sedan titta på hur man designar och bygger generativa AI-tjänster som passar dessa behov. En viktig del av detta kommer att vara hur företag kan ta den data som deras team redan har och kombinera den med generativ AI för att göra den ännu mer användbar för dem.

I exemplet med ett säljteam, hur kan du få information om dina produkter redo så att ett generativt AI-system kan använda din terminologi och exakta försäljningsargument i de svar det ger? Istället för att bara använda de data som LLM:erna har tränats på, kan att lägga till din data i mixen ge den förbättringen i produktivitet, minska potentiella AI-hallucinationer och ge effektiv personalisering. Samtidigt kan du hålla allt känsligt material under din kontroll, istället för att lämna över det till en tredje part.

Differentiering med data och generativ AI

Generativ AI bör hjälpa dig att skilja vad ditt företag gör. Men att använda offentliga LLM enbart kommer inte att leverera detta, och du kommer att låta som alla andra. Företag kan göra sina generativa AI-strategier mer effektiva och skräddarsydda för dem och för anställda genom att ta med sin egen data till bordet med hjälp av retrieval augmented generation, eller RAG. 

RAG tar din egen data, gör den redo för användning med generativ AI och skickar sedan dessa data som kontext till LLM när din anställd ber om ett svar. RAG är en del av att lösa problem som hallucinationer, och det gör också resultat mer relevanta för din organisation och dina kunder, snarare än att få liknande resultat som andra företag som ställer samma typ av frågor. Detta är något som du måste göra för din organisation och kunder, eftersom inget annat företag kommer att ha samma djup eller kombination av data som du kan tillhandahålla.

För att implementera detta måste du kombinera olika verktyg från vektordatalager och AI-integrationer för att bygga en RAG-stack som gör det enklare och snabbare att komma igång. Att leverera detta snabbt kommer att hjälpa dig att förhindra några av dessa "off the books"-distributioner som team kan försöka göra för sig själva medan de väntar på central IT. Tekniker som RAG minskar också riskerna för dataläckor genom att du kan utnyttja företagsdata för förbättrad kontext utan att utbilda den i LLM.

Med tiden kanske du vill göra generativa AI-tjänster tillgängliga för fler användare inom din organisation genom att anamma metoder med låg kod och ingen kod för att bygga tjänster. Att anta ett "center of excellence"-metod, där du kan erbjuda vägledning och support istället för att köra fullständiga implementeringar, ökar chanserna att göra dessa teknologier tillgängliga för alla utan att bromsas av central IT, samtidigt som du fortfarande har rätt skyddsräcken på plats för hur dessa tjänster används i praktiken.

Bygga en mogen inställning till generativ AI över tid

Om man ser mer allmänt kommer företag att behöva komma med sina egna generativa AI-mognadsmodeller, där de tittar på teknikelementen tillsammans med frågor som datasekretess och efterlevnad, social påverkan och teamkultur. Dessa element sker inte i ett vakuum, så att tänka på dem tidigt ger dig en bättre chans att säkerställa att du tar rätt tillvägagångssätt över tid, vilket gör det lättare att följa alla relevanta regler och förordningar som utvecklas.

Parallellt med detta bör du dämpa förväntningar och nivå ställa kring vad generativ AI är och verkligen kan leverera. Till exempel kommer generativ AI inte att låta dig ersätta delar av personal med AI. Istället kan generativ AI leverera bättre och mer produktiv personal som kan använda verktyg i sitt arbetsliv för att konkurrera med andra företag som antingen inte har generativ AI, eller som har vanilla LLM-verktyg till sitt förfogande. AI-driven personal kan få mer arbete gjort, till högre kvalitetsnivåer, och börja ta itu med objekt på din eftersläpning som du tidigare inte hade den bandbredd att ta itu med. Med så mycket potential för dessa verktyg måste vi komma före de potentiella fallgroparna, inklusive shadow AI.

Som Peter Parker i "Spiderman" alltid får höra, kommer stor makt med stort ansvar. I fallet med generativ AI kommer det att vara en tabell för alla organisationer att utnyttja denna kraft. Att ta ansvar för att snabbt lägga generativ AI i händerna på dem som verkligen kan dra nytta av den kraften kommer att vara där organisationer kan differentiera sig och undvika fallgroparna med skugga AI.

plats_img

Senaste intelligens

plats_img