Generativ AI har tagit affärsvärlden med storm. Organisationer runt om i världen försöker förstå det bästa sättet att utnyttja dessa spännande nya utvecklingar inom AI och samtidigt balansera de inneboende riskerna med att använda dessa modeller i stor skala i företagssammanhang. Oavsett om företagen oroar sig över hallucinationer, spårbarhet, utbildningsdata, IP-rättigheter, färdigheter eller kostnader, måste företag brottas med en mängd olika risker när de sätter dessa modeller i produktion. Men löftet om att förvandla kunders och anställdas upplevelser med AI är för stort för att ignorera medan trycket att implementera dessa modeller har blivit obeveklig.

Banar väg: Stora språkmodeller

Det nuvarande fokuset för generativ AI har fokuserat på stora språkmodeller (LLM). Dessa språkbaserade modeller inleder ett nytt paradigm för att upptäcka kunskap, både i hur vi får tillgång till kunskap och interagerar med den. Traditionellt har företag förlitat sig på företagssökmotorer för att utnyttja företags- och kundorienterad kunskap för att stödja både kunder och anställda. Dessa sökmotorer är beroende av nyckelord och mänsklig feedback. Sök spelade en nyckelroll i den första lanseringen av chatbots i företaget genom att täcka den "långa svansen" av frågor som inte hade en fördefinierad väg eller ett fördefinierat svar. I själva verket har IBM watsonx Assistant framgångsrikt möjliggjort detta mönster i nästan fyra år. Nu är vi glada över att ta det här mönstret ännu längre med stora språkmodeller och generativ AI.

Vi presenterar Conversational Search för watsonx Assistant  

Idag är vi glada över att kunna presentera betaversionen av Conversational Search i watsonx Assistant. Drivs av vår IBM Granit stora språkmodellen och vår företagssökmotor Watson Discovery, Conversational Search är designad för att skala konversationssvar grundade på affärsinnehåll så att dina AI-assistenter kan driva resultatorienterade interaktioner och leverera snabbare, mer exakta svar till dina kunder och anställda.

Konversationssökning är sömlöst integrerat i vår utökad konversationsbyggare, för att göra det möjligt för kunder och anställda att automatisera svar och åtgärder. Från att hjälpa dina kunder att förstå kreditkortsbelöningar och hjälpa dem att ansöka, till att erbjuda dina anställda information om ledighetspolicyer och möjligheten att sömlöst boka sin semester.

Förra månaden, IBM tillkännagav General Availability of Granite, IBM Researchs senaste Foundation-modellserie utformad för att påskynda införandet av generativ AI i affärsapplikationer och arbetsflöden med förtroende och transparens. Nu, med den här betaversionen, kan användare utnyttja en Granite LLM-modell som är förutbildad på företagsspecialiserade datauppsättningar och tillämpa den på watsonx Assistant för att snabbt driva övertygande och omfattande fråge- och svarsassistenter. Konversationssökning utökar utbudet av användarfrågor som hanteras av din AI-assistent, så att du kan lägga mindre tid på utbildning och mer tid på att leverera kunskap till dem som behöver.

Användare av Plus- eller Enterprise-planerna för watsonx Assistant kan nu begära tidig åtkomst till Conversational Search. Kontakta din IBM-representant för att få exklusiv tillgång till Conversational Search Beta eller boka en demo med en av våra experter.

Boka en demo med våra experter idag

Hur fungerar Conversational Search bakom kulisserna?

När en användare ställer en fråga till en assistent bestämmer watsonx Assistant först hur han ska hjälpa användaren – om den ska utlösa en förbyggd konversation, konversationssökning eller eskalera till en mänsklig agent. Detta görs med hjälp av vår ny transformatormodell, uppnå högre noggrannhet med dramatiskt mindre utbildning som behövs.

När en konversationssökning väl har utlösts, förlitar den sig på två grundläggande steg för att lyckas: hämtningsdelen, hur man hittar den mest relevanta informationen som möjligt och genereringsdelen, hur man bäst strukturerar den informationen för att få de rikaste svaren från LLM. För båda delarna utnyttjar IBM watsonx Assistant Retrieval Augmented Generationram förpackat som en kodlös lösning för att minska behovet av att mata och omskola LLM-modellen. Användare kan helt enkelt ladda upp den senaste affärsdokumentationen eller policyerna, och modellen kommer att hämta information och återkomma med ett uppdaterat svar.

För hämtningsdelen använder watsonx Assistant sökfunktioner för att hämta relevant innehåll från affärsdokument. IBM watsonx Discovery möjliggör semantiska sökningar som förstår sammanhang och mening för att hämta information. Och eftersom dessa modeller förstår språk så bra kan företagsanvändare förbättra mängden ämnen och kvaliteten på svaren som deras AI-assistent kan täcka utan utbildning. Semantisk sökning är tillgänglig idag på IBM Cloud Pak for Data och kommer att vara tillgänglig som ett konfigurerbart alternativ för dig att köra som programvara och SaaS-distributioner under de kommande månaderna.

När hämtningen är klar och sökresultaten har organiserats i ordning efter relevans skickas informationen vidare till en LLM – i det här fallet IBM-modellen Granit – att syntetisera och generera ett konversationssvar grundat i det innehållet. Det här svaret är försett med spårbarhet så att företag och deras användare kan se källan till svaret. Resultatet: Ett pålitligt kontextuellt svar baserat på ditt företags innehåll.

På IBM förstår vi vikten av att använda AI på ett ansvarsfullt sätt och vi gör det möjligt för våra kunder att göra detsamma med konversationssökning. Organisationer kan aktivera funktionen om bara vissa ämnen känns igen, och/eller har möjlighet att använda konversationssökning som en allmän reserv till långa frågor. Företag kan justera sina preferenser för att använda sökning baserat på deras företagspolicyer för att använda generativ AI. Vi erbjuder också "triggerord" för att automatiskt eskalera till en mänsklig agent om vissa ämnen känns igen för att säkerställa att konversationssökning inte används.

Konversationssökning i aktion

Låt oss titta på ett verkligt scenario och hur watsonx Assistant utnyttjar konversationssökning för att hjälpa en kund hos en bank att ansöka om ett kreditkort.

Låt oss säga att en kund öppnar bankens assistent och frågar vilken typ av välkomsterbjudande de skulle vara berättigad till om de ansöker om platinakortet. Watsonx Assistant använder sin transformatormodell för att undersöka användarens budskap och vägen till ett förbyggt konversationsflöde som kan hantera detta ämne. Assistenten kan sömlöst och naturligt extrahera relevant information från användarens meddelanden för att samla in nödvändiga detaljer, ringa lämplig backend-tjänst och returnera välkomsterbjudandets detaljer till användaren.

Innan användaren ansöker har de ett par frågor. De börjar med att be om lite mer information om vilken sorts belöningar kortet erbjuder. Återigen använder Watsonx-assistenten sin transformatormodell, men den här gången bestämmer sig för att dirigera till konversationssökning eftersom det inte finns några lämpliga förbyggda konversationer. Conversational Search tittar igenom bankens kunskapsdokument och svarar på användarens fråga.

Användaren är nu redo att ansöka men vill vara säker på att ansökningen inte påverkar deras kreditvärdighet. När de ställer denna fråga till assistenten känner assistenten igen detta som ett speciellt ämne och eskalerar till en mänsklig agent. Watsonx Assistant kan kondensera konversationen till en kortfattad sammanfattning och skicka den till den mänskliga agenten, som snabbt kan förstå användarens fråga och lösa den åt dem.

Därifrån är användaren nöjd och ansöker om sitt nya kreditkort.

Konversations-AI som driver öppen innovation

IBM har varit och kommer att fortsätta att vara engagerad i en öppen strategi, som erbjuder distributionsalternativ till kunder på ett sätt som bäst passar deras företagsbehov. IBM watsonx Assistant Conversational Search tillhandahåller en flexibel plattform som kan leverera korrekta svar över olika kanaler och kontaktpunkter genom att sammanföra företagssökningsfunktioner och IBMs basmodeller för LLM byggda på watsonx. Idag erbjuder vi denna Conversational Search Beta på IBM Cloud samt ett självhanterat Cloud Pak for Data-distributionsalternativ för semantisk sökning med watsonx Discovery. Under de kommande månaderna kommer vi att erbjuda semantisk sökning som ett konfigurerbart alternativ för konversationssökning för både programvara och SaaS-distributioner – vilket säkerställer att företag kan köra och distribuera var de vill.

För större flexibilitet i modellbyggandet kan organisationer också ta med sin egen data till IBM LLM-modeller och anpassa dessa med watsonx.ai eller utnyttja tredjepartsmodeller som Meta's Llama och andra från Hugging Face-communityt för användning med konversationssökning eller annan användning fall.

Bara att börja med din generativ AI-resa för kundtjänst? Anmäl dig till en kundinformationssession med IBM Consulting.

Förvandla din kundtjänst med en kundgenomgång för watsonx