생성적 AI(Generative AI)는 비즈니스 세계를 폭풍으로 몰아넣었습니다. 전 세계의 조직은 AI의 이러한 흥미롭고 새로운 개발을 활용하는 동시에 대규모 기업 환경에서 이러한 모델을 사용하는 데 따른 고유한 위험의 균형을 맞추는 가장 좋은 방법을 이해하려고 노력하고 있습니다. 환각, 추적성, 교육 데이터, IP 권리, 기술 또는 비용에 대한 우려가 무엇이든 기업은 이러한 모델을 생산에 적용하는 데 있어 다양한 위험을 해결해야 합니다. 그러나 AI를 통해 고객과 직원 경험을 변화시키겠다는 약속은 무시하기에는 너무 크며, 이러한 모델을 구현해야 한다는 압력은 점점 거세지고 있습니다.

길을 닦다: 대규모 언어 모델

현재 생성 AI의 초점은 LLM(대형 언어 모델)에 집중되어 있습니다. 이러한 언어 기반 모델은 우리가 지식에 접근하고 지식과 상호 작용하는 방식 모두에서 지식 발견을 위한 새로운 패러다임을 제시하고 있습니다. 전통적으로 기업은 고객과 직원 모두를 지원하기 위해 기업 및 고객 관련 지식을 활용하기 위해 엔터프라이즈 검색 엔진에 의존해 왔습니다. 이러한 검색 엔진은 키워드와 사람의 피드백에 의존합니다. 검색은 사전 정의된 경로나 답변이 없는 질문의 "롱테일"을 다루면서 기업에서 챗봇을 처음 출시하는 데 중요한 역할을 했습니다. 실제로 IBM watsonx Assistant는 거의 XNUMX년 동안 이 패턴을 성공적으로 구현해 왔습니다. 이제 우리는 대규모 언어 모델과 생성적 AI를 통해 이 패턴을 더욱 발전시킬 수 있게 되어 기쁘게 생각합니다.

watsonx Assistant용 대화형 검색 소개  

오늘, 우리는 watsonx Assistant의 대화형 검색 베타 릴리스를 발표하게 되어 기쁘게 생각합니다. IBM 제공 화강암 대규모 언어 모델과 당사의 엔터프라이즈 검색 엔진인 Watson Discovery, Conversational Search는 AI Assistant가 결과 지향적 상호 작용을 추진하고 고객과 직원에게 더 빠르고 정확한 답변을 제공할 수 있도록 비즈니스 콘텐츠에 기반한 대화 답변을 확장하도록 설계되었습니다.

대화형 검색은 우리의 증강된 대화 빌더, 고객과 직원이 답변과 조치를 자동화할 수 있도록 합니다. 고객이 신용 카드 보상을 이해하고 신청하도록 돕는 것부터 직원에게 휴가 정책에 대한 정보를 제공하고 휴가 시간을 원활하게 예약하는 기능까지 제공합니다.

지난 달, IBM은 Granite의 일반 공급을 발표했습니다., IBM Research의 최신 Foundation 모델 시리즈는 신뢰와 투명성을 바탕으로 비즈니스 애플리케이션 및 워크플로우에 생성적 AI의 채택을 가속화하도록 설계되었습니다. 이제 이 베타 릴리스를 통해 사용자는 기업에 특화된 데이터 세트에 대해 사전 훈련된 Granite LLM 모델을 활용하고 이를 watsonx Assistant에 적용하여 강력하고 포괄적인 질문 및 답변 보조자를 신속하게 강화할 수 있습니다. 대화형 검색은 AI Assistant가 처리하는 사용자 쿼리의 범위를 확장하므로 교육에 소요되는 시간을 줄이고 필요한 사람들에게 지식을 전달하는 데 더 많은 시간을 할애할 수 있습니다.

watsonx Assistant의 Plus 또는 Enterprise 플랜 사용자는 이제 대화 검색에 대한 조기 액세스를 요청할 수 있습니다. 대화형 검색 베타에 대한 독점적인 액세스 권한을 얻거나 IBM 전문가와 함께 데모를 예약하려면 IBM 담당자에게 문의하세요.

지금 전문가와 함께 데모를 예약하세요

대화형 검색은 백그라운드에서 어떻게 작동하나요?

사용자가 어시스턴트에게 질문을 하면, watsonx 어시스턴트는 먼저 사용자를 도울 방법(사전 구축된 대화, 대화 검색을 트리거할지 또는 상담사에게 에스컬레이션할지)을 결정합니다. 이는 우리를 사용하여 수행됩니다. 새로운 트랜스포머 모델, 필요한 교육을 대폭 줄이면서 더 높은 정확도를 달성합니다.

대화형 검색이 실행되면 성공하기 위한 두 가지 기본 단계, 즉 검색 부분, 가능한 가장 관련성이 높은 정보를 찾는 방법, 생성 부분, LLM에서 가장 풍부한 응답을 얻기 위해 해당 정보를 가장 잘 구성하는 방법에 의존합니다. 두 부분 모두에서 IBM watsonx Assistant는 다음을 활용합니다. 검색 증강 생성LLM 모델을 공급하고 재교육할 필요성을 줄이기 위해 코드가 없는 기본 솔루션으로 패키지된 프레임워크입니다. 사용자는 최신 비즈니스 문서나 정책을 업로드하기만 하면 모델이 정보를 검색하고 업데이트된 응답을 반환합니다.

검색 부분의 경우, watsonx Assistant는 검색 기능을 활용하여 비즈니스 문서에서 관련 콘텐츠를 검색합니다. IBM watsonx Discovery는 정보 검색을 위해 컨텍스트와 의미를 이해하는 의미론적 검색을 지원합니다. 그리고 이러한 모델은 언어를 매우 잘 이해하기 때문에 비즈니스 사용자는 AI 도우미가 교육 없이 다룰 수 있는 주제의 양과 답변의 질을 향상시킬 수 있습니다. 의미 체계 검색은 현재 IBM Cloud Pak for Data에서 사용할 수 있으며 앞으로 몇 달 내에 소프트웨어 및 SaaS 배포로 실행할 수 있도록 구성 가능한 옵션으로 제공될 예정입니다.

검색이 완료되고 검색 결과가 관련성 순서대로 구성되면 해당 정보가 LLM(이 경우 IBM 모델)으로 전달됩니다. 화강암 – 해당 콘텐츠에 기초한 대화형 답변을 종합하고 생성합니다. 이 답변에는 추적 기능이 제공되므로 기업과 사용자는 답변의 소스를 볼 수 있습니다. 결과: 회사의 콘텐츠를 기반으로 신뢰할 수 있는 상황별 응답을 제공합니다.

IBM에서는 책임감 있게 AI를 사용하는 것의 중요성을 이해하고 고객이 대화형 검색을 통해 동일한 작업을 수행할 수 있도록 지원합니다. 조직에서는 특정 주제만 인식되는 경우 이 기능을 활성화할 수 있으며/또는 롱테일 질문에 대한 일반적인 대체 수단으로 대화형 검색을 활용할 수 있는 옵션이 있습니다. 기업은 생성 AI 사용에 대한 기업 정책을 기반으로 검색 사용에 대한 선호도를 조정할 수 있습니다. 또한 특정 주제가 인식되면 대화형 검색이 사용되지 않도록 자동으로 인간 상담원에게 에스컬레이션하는 "트리거 단어"를 제공합니다.

대화형 검색 실행

실제 시나리오를 살펴보고 watsonx Assistant가 대화 검색을 활용하여 은행 고객이 신용 카드를 신청하도록 돕는 방법을 살펴보겠습니다.

고객이 은행 직원을 열고 플래티넘 카드를 신청하면 어떤 종류의 환영 혜택을 받을 수 있는지 물어본다고 가정해 보겠습니다. Watsonx Assistant는 변환기 모델을 활용하여 사용자의 메시지를 검사하고 이 주제를 처리할 수 있는 사전 구축된 대화 흐름으로 라우팅합니다. 어시스턴트는 사용자의 메시지에서 관련 정보를 원활하고 자연스럽게 추출하여 필요한 세부 정보를 수집하고, 적절한 백엔드 서비스를 호출하고, 환영 제안 세부 정보를 사용자에게 다시 반환할 수 있습니다.

사용자가 신청하기 전에 몇 가지 질문이 있습니다. 그들은 카드가 어떤 종류의 보상을 제공하는지에 대한 자세한 내용을 묻는 것으로 시작합니다. 이번에도 Watsonx 어시스턴트는 변환기 모델을 활용하지만, 사전 구축된 적절한 대화가 없기 때문에 이번에는 대화 검색으로 라우팅하기로 결정했습니다. 대화형 검색은 은행의 지식 문서를 살펴보고 사용자의 질문에 답변합니다.

이제 사용자는 신청할 준비가 되었지만 신청이 신용 점수에 영향을 미치지 않는지 확인하려고 합니다. 어시스턴트에게 이 질문을 하면 어시스턴트는 이를 특별한 주제로 인식하고 인간 에이전트에게 에스컬레이션합니다. Watsonx Assistant는 대화를 간결한 요약으로 압축하여 인간 에이전트에게 보낼 수 있으며, 인간 에이전트는 사용자의 질문을 신속하게 이해하고 해결할 수 있습니다.

그러면 사용자는 만족하고 새 신용카드를 신청합니다.

개방형 혁신을 주도하는 대화형 AI

IBM은 고객의 기업 요구에 가장 적합한 방식으로 배포 옵션을 제공하는 개방형 전략을 고수해 왔으며 앞으로도 계속 그럴 것입니다. IBM watsonx Assistant Conversational Search는 watsonx에 구축된 IBM 기반 LLM 모델과 엔터프라이즈 검색 기능을 결합하여 다양한 채널과 접점에서 정확한 답변을 제공할 수 있는 유연한 플랫폼을 제공합니다. 오늘 우리는 IBM Cloud에서 이 대화형 검색 베타와 watsonx Discovery를 사용한 의미론적 검색을 위한 자체 관리형 Cloud Pak for Data 배포 옵션을 제공합니다. 앞으로 몇 달 안에 우리는 소프트웨어 및 SaaS 배포 모두에 대해 대화 검색을 위한 구성 가능한 옵션으로 의미 체계 검색을 제공하여 기업이 원하는 곳에서 실행하고 배포할 수 있도록 보장할 것입니다.

모델 구축의 유연성을 높이기 위해 조직은 독점 데이터를 IBM LLM 모델로 가져와 watsonx.ai를 사용하여 이를 사용자 정의하거나 Meta's Llama 및 Hugging Face 커뮤니티의 다른 모델과 같은 타사 모델을 활용하여 대화 검색 또는 기타 용도로 사용할 수도 있습니다. 사례.

이제 막 시작하는 중입니다. 고객 서비스를 위한 생성적 AI 여정? IBM Consulting의 고객 브리핑 세션에 등록하세요.

watsonx를 위한 고객 브리핑을 통해 고객 서비스를 혁신하세요