Generative KI hat die Geschäftswelt im Sturm erobert. Organisationen auf der ganzen Welt versuchen herauszufinden, wie sie diese aufregenden neuen Entwicklungen in der KI am besten nutzen und gleichzeitig die mit der Verwendung dieser Modelle in einem Unternehmenskontext in großem Maßstab verbundenen Risiken abwägen können. Ganz gleich, ob es um Halluzinationen, Rückverfolgbarkeit, Trainingsdaten, geistige Eigentumsrechte, Fähigkeiten oder Kosten geht – Unternehmen müssen sich mit einer Vielzahl von Risiken auseinandersetzen, wenn sie diese Modelle in die Produktion bringen. Allerdings ist das Versprechen, Kunden- und Mitarbeitererlebnisse mit KI zu verändern, zu groß, um es zu ignorieren, während der Druck, diese Modelle umzusetzen, unerbittlich geworden ist.

Wegbereiter: Große Sprachmodelle

Der aktuelle Schwerpunkt der generativen KI liegt auf Large Language Models (LLMs). Diese sprachbasierten Modelle läuten ein neues Paradigma für die Entdeckung von Wissen ein, sowohl hinsichtlich der Art und Weise, wie wir auf Wissen zugreifen und mit ihm interagieren. Traditionell verlassen sich Unternehmen auf Unternehmenssuchmaschinen, um unternehmens- und kundenbezogenes Wissen zu nutzen und Kunden und Mitarbeiter gleichermaßen zu unterstützen. Diese Suchmaschinen sind auf Schlüsselwörter und menschliches Feedback angewiesen. Die Suche spielte bei der anfänglichen Einführung von Chatbots im Unternehmen eine Schlüsselrolle, indem sie den „langen Schwanz“ von Fragen abdeckte, für die es keinen vordefinierten Pfad oder eine vordefinierte Antwort gab. Tatsächlich ermöglicht IBM watsonx Assistant dieses Muster seit fast vier Jahren erfolgreich. Jetzt freuen wir uns, dieses Muster mit großen Sprachmodellen und generativer KI noch weiter voranzutreiben.

Einführung der Konversationssuche für watsonx Assistant  

Wir freuen uns, heute die Beta-Version der Conversational Search in watsonx Assistant bekannt zu geben. Unterstützt durch unsere IBM Granit Mit unserem großen Sprachmodell und unserer Unternehmenssuchmaschine Watson Discovery ist Conversational Search darauf ausgelegt, auf Geschäftsinhalten basierende Konversationsantworten zu skalieren, sodass Ihre KI-Assistenten ergebnisorientierte Interaktionen vorantreiben und Ihren Kunden und Mitarbeitern schnellere und genauere Antworten liefern können.

Die Konversationssuche ist nahtlos in unsere integriert Erweiterter Konversationsgenerator, um Kunden und Mitarbeitern die Automatisierung von Antworten und Aktionen zu ermöglichen. Von der Unterstützung Ihrer Kunden beim Verständnis von Kreditkartenprämien und der Unterstützung bei der Beantragung bis hin zur Bereitstellung von Informationen zu Urlaubsregelungen für Ihre Mitarbeiter und der Möglichkeit, ihren Urlaub nahtlos zu buchen.

Letzten Monat IBM gab die allgemeine Verfügbarkeit von Granite bekannt, die neueste Foundation-Modellreihe von IBM Research, die darauf ausgelegt ist, die Einführung generativer KI in Geschäftsanwendungen und Arbeitsabläufe mit Vertrauen und Transparenz zu beschleunigen. Mit dieser Beta-Version können Benutzer nun ein Granite-LLM-Modell nutzen, das auf unternehmensspezifischen Datensätzen vortrainiert wurde, und es auf watsonx Assistant anwenden, um schnell überzeugende und umfassende Frage- und Antwortassistenten zu erstellen. Conversational Search erweitert den Bereich der Benutzeranfragen, die von Ihrem KI-Assistenten bearbeitet werden, sodass Sie weniger Zeit für die Schulung aufwenden müssen und sich mehr darauf konzentrieren können, Wissen an diejenigen weiterzugeben, die es benötigen.

Benutzer der Plus- oder Enterprise-Pläne von watsonx Assistant können jetzt einen frühen Zugriff auf Conversational Search beantragen. Kontaktieren Sie Ihren IBM-Vertreter, um exklusiven Zugang zur Conversational Search Beta zu erhalten, oder vereinbaren Sie eine Demo mit einem unserer Experten.

Vereinbaren Sie noch heute eine Demo mit unseren Experten

Wie funktioniert Conversational Search hinter den Kulissen?

Wenn ein Benutzer einem Assistenten eine Frage stellt, bestimmt watsonx Assistant zunächst, wie er dem Benutzer helfen kann – ob eine vorgefertigte Konversation, eine Konversationssuche oder eine Eskalation an einen menschlichen Agenten ausgelöst werden soll. Dies geschieht mit unserem neues TransformatormodellDadurch wird eine höhere Genauigkeit mit deutlich weniger Schulungsaufwand erreicht.

Sobald die Konversationssuche ausgelöst wird, sind für den Erfolg zwei grundlegende Schritte erforderlich: der Abrufteil, wie man möglichst relevante Informationen findet, und der Generierungsteil, wie man diese Informationen am besten strukturiert, um die umfassendsten Antworten vom LLM zu erhalten. Für beide Teile nutzt IBM watsonx Assistant die Augmented Generation abrufenFramework, das als sofort einsatzbereite Lösung ohne Code verpackt ist, um die Notwendigkeit zu reduzieren, das LLM-Modell zu füttern und neu zu trainieren. Benutzer können einfach die neuesten Geschäftsdokumente oder Richtlinien hochladen, und das Modell ruft Informationen ab und gibt eine aktualisierte Antwort zurück.

Für den Abrufbereich nutzt watsonx Assistant Suchfunktionen, um relevante Inhalte aus Geschäftsdokumenten abzurufen. IBM watsonx Discovery ermöglicht semantische Suchen, die den Kontext und die Bedeutung verstehen, um Informationen abzurufen. Und da diese Modelle Sprache so gut verstehen, können Geschäftsanwender die Quantität der Themen und die Qualität der Antworten verbessern, die ihr KI-Assistent ohne Schulung abdecken kann. Die semantische Suche ist ab heute auf IBM Cloud Pak for Data verfügbar und wird Ihnen in den kommenden Monaten als konfigurierbare Option zur Ausführung als Software- und SaaS-Bereitstellung zur Verfügung stehen.

Sobald der Abruf abgeschlossen ist und die Suchergebnisse nach Relevanz geordnet wurden, werden die Informationen an ein LLM weitergeleitet – in diesem Fall das IBM-Modell Granit – um eine auf diesem Inhalt basierende Konversationsantwort zu synthetisieren und zu generieren. Diese Antwort ist rückverfolgbar, sodass Unternehmen und ihre Benutzer die Quelle der Antwort sehen können. Das Ergebnis: Eine vertrauenswürdige kontextbezogene Antwort basierend auf den Inhalten Ihres Unternehmens.

Bei IBM wissen wir, wie wichtig es ist, KI verantwortungsvoll einzusetzen, und wir ermöglichen unseren Kunden, dasselbe mit der Konversationssuche zu tun. Organisationen können die Funktionalität aktivieren, wenn nur bestimmte Themen erkannt werden, und/oder die Möglichkeit haben, die Konversationssuche als allgemeinen Fallback für Long-Tail-Fragen zu nutzen. Unternehmen können ihre Präferenz für die Verwendung der Suche basierend auf ihren Unternehmensrichtlinien für den Einsatz generativer KI anpassen. Wir bieten auch „Triggerwörter“ an, um automatisch an einen menschlichen Agenten zu eskalieren, wenn bestimmte Themen erkannt werden, um sicherzustellen, dass keine Konversationssuche verwendet wird.

Konversationssuche in Aktion

Schauen wir uns ein reales Szenario an und sehen, wie watsonx Assistant Conversational Search nutzt, um einem Kunden einer Bank bei der Beantragung einer Kreditkarte zu helfen.

Nehmen wir an, ein Kunde öffnet den Assistenten der Bank und fragt, auf welches Willkommensangebot er Anspruch hätte, wenn er die Platinum Card beantragen würde. Watsonx Assistant nutzt sein Transformer-Modell, um die Nachricht des Benutzers zu untersuchen und zu einem vorgefertigten Konversationsfluss weiterzuleiten, der dieses Thema verarbeiten kann. Der Assistent kann nahtlos und natürlich die relevanten Informationen aus den Nachrichten des Benutzers extrahieren, um die erforderlichen Details zu sammeln, den entsprechenden Backend-Dienst anzurufen und die Details des Willkommensangebots an den Benutzer zurückzusenden.

Bevor sich der Benutzer bewirbt, hat er ein paar Fragen. Sie fragen zunächst nach weiteren Einzelheiten zu den Prämien, die die Karte bietet. Auch hier nutzt der Watsonx-Assistent sein Transformer-Modell, entscheidet sich dieses Mal jedoch für die Weiterleitung zur Konversationssuche, da keine geeigneten vorgefertigten Konversationen vorhanden sind. Conversational Search durchsucht die Wissensdokumente der Bank und beantwortet die Frage des Benutzers.

Der Benutzer ist nun bereit, sich zu bewerben, möchte jedoch sicherstellen, dass sich die Bewerbung nicht auf seine Kreditwürdigkeit auswirkt. Wenn sie dem Assistenten diese Frage stellen, erkennt der Assistent, dass es sich um ein spezielles Thema handelt und eskaliert es an einen menschlichen Agenten. Watsonx Assistant kann das Gespräch in einer prägnanten Zusammenfassung zusammenfassen und an den menschlichen Agenten senden, der die Frage des Benutzers schnell verstehen und für ihn lösen kann.

Von da an ist der Benutzer zufrieden und beantragt seine neue Kreditkarte.

Konversations-KI, die offene Innovation vorantreibt

IBM hat sich einer offenen Strategie verschrieben und wird dies auch weiterhin tun, indem es den Kunden Bereitstellungsoptionen auf eine Art und Weise anbietet, die ihren Unternehmensanforderungen am besten entspricht. IBM watsonx Assistant Conversational Search bietet eine flexible Plattform, die genaue Antworten über verschiedene Kanäle und Berührungspunkte liefern kann, indem sie Unternehmenssuchfunktionen und auf Watsonx basierende IBM LLM-Basismodelle zusammenführt. Heute bieten wir diese Conversational Search Beta auf IBM Cloud sowie eine selbstverwaltete Cloud Pak for Data-Bereitstellungsoption für die semantische Suche mit watsonx Discovery an. In den kommenden Monaten werden wir die semantische Suche als konfigurierbare Option für Conversational Search sowohl für Software- als auch für SaaS-Bereitstellungen anbieten – um sicherzustellen, dass Unternehmen dort arbeiten und bereitstellen können, wo sie möchten.

Für mehr Flexibilität bei der Modellbildung können Unternehmen ihre proprietären Daten auch in IBM LLM-Modelle einbringen und diese mithilfe von watsonx.ai anpassen oder Modelle von Drittanbietern wie Metas Llama und andere aus der Hugging Face-Community für die Verwendung bei der Konversationssuche oder für andere Zwecke nutzen Fälle.

Ich fange gerade erst an Generative KI-Reise für den Kundenservice? Melden Sie sich für eine Kundenbesprechung mit IBM Consulting an.

Verwandeln Sie Ihren Kundenservice mit einem Kundenbriefing für watsonx