제퍼넷 로고

생성 데이터 인텔리전스

AI

생성 AI를 사용하여 자동 통화 요약을 통해 상담원 생산성 향상 | 아마존 웹 서비스

플라톤에 의해 재발행
플라톤에 의해 재발행

시간

조회 수 : 162

귀하의 컨택 센터는 귀하의 비즈니스와 고객 사이의 중요한 연결 고리 역할을 합니다. 컨택 센터에 전화할 때마다 고객의 요구 사항과 이러한 요구 사항을 얼마나 잘 충족하고 있는지 자세히 알아볼 수 있는 기회입니다.

대부분의 컨택 센터에서는 상담원이 통화 후 대화를 요약하도록 요구합니다. 통화 요약은 컨택 센터가 고객 통화를 이해하고 통찰력을 얻는 데 도움이 되는 귀중한 도구입니다. 또한 정확한 통화 요약은 고객이 다른 상담원에게 전달될 때 정보를 반복할 필요가 없도록 하여 고객 여정을 향상시킵니다.

이 게시물에서는 생성 AI의 성능을 활용하여 통화 요약 및 통화 성향 작성의 노력을 줄이고 정확도를 높이는 방법을 설명합니다. 또한 최신 버전의 오픈 소스 솔루션을 사용하여 빠르게 시작하는 방법도 보여줍니다. Agent Assist를 통한 실시간 통화 분석.

최신 최고의 AI 도구 컨택센터를 강화할 수 있습니다. 이러한 혁신적인 솔루션은 고객 서비스의 통화 요약 및 처리 관리를 개선하고 있습니다. 운영 및 고객 경험을 개선하는 AI 기반 제품으로 컨택 센터 기술을 앞서 나가십시오.

통화 요약 관련 문제

컨택 센터에서 더 많은 음성 데이터를 수집함에 따라 효율적인 통화 요약에 대한 필요성이 크게 증가했습니다. 그러나 수동으로 요약을 만드는 데 시간이 많이 걸리고 AHT(평균 처리 시간)와 같은 상담원의 주요 지표에 영향을 미치기 때문에 대부분의 요약은 비어 있거나 정확하지 않습니다. 상담원은 요약 작업이 전체 통화의 최대 XNUMX/XNUMX을 차지하므로 건너뛰거나 불완전한 정보를 입력한다고 보고합니다. 이는 고객 경험에 해를 끼칩니다. 상담원이 입력하는 동안 오랫동안 고객을 좌절하게 만들고 불완전한 요약은 상담원 간에 전송될 때 고객에게 정보를 반복하도록 요구한다는 것을 의미합니다.

좋은 소식은 이제 생성 AI를 통해 요약 문제를 자동화하고 해결하는 것이 가능하다는 것입니다.

Generative AI는 고객 통화를 정확하고 효율적으로 요약하는 데 도움을 줍니다.

제너레이티브 AI 대규모의 방대한 양의 데이터에 대해 사전 학습된 기초 모델(FM)이라고 하는 초대형 기계 학습(ML) 모델을 기반으로 합니다. 자연어 이해에 초점을 맞춘 이러한 FM의 하위 집합을 LLM(대형 언어 모델)이라고 하며 인간과 유사하고 상황에 맞는 관련 요약을 생성할 수 있습니다. 최고의 LLM은 복잡하고 비선형적인 문장 구조도 쉽게 처리하고 주제, 의도, 다음 단계, 결과 등을 포함한 다양한 측면을 결정할 수 있습니다. LLM을 사용하여 통화 요약을 자동화하면 고객 대화를 수동 요약에 필요한 시간보다 훨씬 짧은 시간에 정확하게 요약할 수 있습니다. 이를 통해 컨택 센터는 상담원의 문서 작성 부담을 줄이면서 우수한 고객 경험을 제공할 수 있습니다.

다음 스크린샷은 각 통화에 대한 정보가 포함된 Agent Assist 통화 세부정보 페이지를 포함한 Live Call Analytics의 예를 보여줍니다.

다음 비디오는 진행 중인 통화를 요약하고, 통화 종료 후 요약하고, 후속 이메일을 생성하는 Agent Assist를 사용한 실시간 통화 분석의 예를 보여줍니다.

솔루션 개요

다음 다이어그램은 솔루션 워크 플로우를 보여줍니다.

추상적인 통화 요약을 생성하는 첫 번째 단계는 고객 통화를 기록하는 것입니다. 정확하고 즉시 사용 가능한 대화 내용을 갖는 것은 정확하고 효과적인 통화 요약을 생성하는 데 중요합니다. 아마존 전사 컨택 센터 통화에 대한 높은 정확도의 대화 내용을 생성하는 데 도움이 됩니다. Amazon Transcribe는 완벽하게 관리되고 지속적으로 훈련되는 최첨단 음성 인식 모델을 갖춘 풍부한 기능의 음성-텍스트 API입니다. 다음과 같은 고객 뉴욕 타임스, 느슨하게, Zillow, 윅스, 그리고 수천 다른 사람 Amazon Transcribe를 사용하면 매우 정확한 성적표를 생성하여 비즈니스 성과를 개선할 수 있습니다. Amazon Transcribe의 주요 차별화 요소는 오디오 및 텍스트에서 민감한 정보를 수정하여 고객 데이터를 보호하는 기능입니다. 일반적으로 고객 개인 정보 보호 및 안전을 보호하는 것이 컨택 센터에 중요하지만 자동화된 통화 요약을 생성하기 전에 은행 계좌 정보 및 주민등록번호와 같은 민감한 정보를 숨겨 요약에 삽입되지 않도록 하는 것이 훨씬 더 중요합니다.

이미 이용하고 계신 고객님들께 아마존 연결, 옴니채널 클라우드 컨택 센터, Amazon Connect 용 콘택트 렌즈 실시간 전사 및 분석 기능을 기본적으로 제공합니다. 하지만 기존 컨택센터에 생성 AI를 활용하고 싶다면 저희가 개발한 솔루션 기존 연락 센터에서 실시간으로 또는 통화 후 대화를 기록하고 생성 AI를 사용하여 자동 통화 요약을 생성하는 것과 관련된 대부분의 무거운 작업을 수행합니다. 또한 이 섹션에 자세히 설명된 솔루션을 사용하면 다음을 수행할 수 있습니다. 고객 관계 관리(CRM) 시스템과 통합 생성된 통화 요약으로 선택한 CRM을 자동으로 업데이트합니다. 이 예에서는 실시간 통화 분석 LCA(Agent Assist) 솔루션을 사용하여 호스팅된 LLM을 통해 실시간 통화 기록 및 통화 요약을 생성합니다. 아마존 기반암. 당신은 또한 AWS 람다 함수를 작성하고 LCA에 함수의 Amazon 리소스 이름(ARN)을 제공합니다. AWS 클라우드 포메이션 매개변수를 선택하고 원하는 LLM을 사용하세요.

다음의 단순화된 LCA 아키텍처는 Amazon Bedrock을 사용한 통화 요약을 보여줍니다.

LCA는 이전 아키텍처를 배포하고 호출을 실시간으로 기록할 수 있는 CloudFormation 템플릿으로 제공됩니다. 워크플로 단계는 다음과 같습니다.

  1. 통화 오디오는 SIPREC을 통해 전화 시스템에서 Amazon Chime SDK 음성 커넥터로 스트리밍될 수 있습니다. Amazon Kinesis 비디오 스트림. LCA는 다음과 같은 다른 오디오 수집 메커니즘도 지원합니다. Genesys 클라우드 오디오훅.
  2. 그런 다음 Amazon Chime SDK 통화 분석은 Kinesis Video Streams의 오디오를 Amazon Transcribe로 스트리밍하고 JSON 출력을 Amazon Kinesis 데이터 스트림.
  3. Lambda 함수는 전사 세그먼트를 처리하고 이를 아마존 DynamoDB 테이블.
  4. 통화가 끝나면 Amazon Chime SDK 음성 커넥터는 아마존 이벤트 브리지 DynamoDB에서 지속된 기록을 읽고, LLM 프롬프트를 생성하고(자세한 내용은 다음 섹션에서 설명) Amazon Bedrock을 사용하여 LLM 추론을 실행하는 Lambda 함수를 트리거하는 알림입니다. 생성된 요약은 DynamoDB에 유지되며 LCA 사용자 인터페이스의 에이전트에서 사용할 수 있습니다. 타사 CRM 시스템과 통합하기 위해 요약이 생성된 후 실행될 Lambda 함수 ARN을 선택적으로 제공할 수 있습니다.

LCA에서는 호출 중에 요약 Lambda 함수를 호출하는 옵션도 허용합니다. 호출이 진행 중이더라도 언제든지 기록을 가져오고 프롬프트를 생성할 수 있기 때문입니다. 이는 통화가 다른 상담원에게 전달되거나 감독자에게 에스컬레이션될 때 유용할 수 있습니다. 고객을 기다리게 하고 통화 내용을 설명하는 대신 새 상담원은 자동 생성된 요약을 빠르게 읽을 수 있으며 여기에는 현재 문제가 무엇인지, 이전 상담원이 문제를 해결하기 위해 시도한 작업이 포함될 수 있습니다.

통화 요약 프롬프트 예시

프롬프트 엔지니어링을 통해 LLM 추론을 실행하여 통화 요약을 생성하고 개선할 수 있습니다. 프롬프트 템플릿을 수정하여 선택한 LLM에 가장 적합한 것이 무엇인지 확인할 수 있습니다. 다음은 LCA를 사용하여 기록을 요약하기 위한 기본 프롬프트의 예입니다. 우리는 {transcript} 실제 통화 내용이 포함된 자리 표시자입니다.

Human: Answer the questions below, defined in <question></question> based on the transcript defined in <transcript></transcript>. If you cannot answer the question, reply with 'n/a'. Use gender neutral pronouns. When you reply, only respond with the answer. <question>
What is a summary of the transcript?
</question> <transcript>
{transcript}
</transcript> Assistant:

LCA는 프롬프트를 실행하고 생성된 요약을 저장합니다. 요약 외에도 상담원 생산성에 중요한 거의 모든 텍스트를 생성하도록 LLM에 지시할 수 있습니다. 예를 들어 통화 중에 다룬 일련의 주제 중에서 선택하거나(상담원 배치), 필요한 후속 작업 목록을 생성하거나, 통화에 대해 감사를 표하는 이메일을 발신자에게 보낼 수도 있습니다.

다음 스크린샷은 LCA 사용자 인터페이스에서 상담원 후속 이메일 생성의 예입니다.

잘 설계된 프롬프트를 통해 일부 LLM은 단일 추론에서도 이 모든 정보를 생성하여 추론 비용과 처리 시간을 줄일 수 있습니다. 그러면 상담원은 통화 종료 후 몇 초 내에 생성된 응답을 연락 후 작업에 사용할 수 있습니다. 생성된 응답을 통합할 수도 있습니다. 자동으로 CRM 시스템에.

다음 스크린샷은 LCA 사용자 인터페이스의 요약 예를 보여줍니다.

통화가 계속 진행되는 동안 요약을 생성할 수도 있으며(다음 스크린샷 참조) 이는 장시간 고객 통화에 특히 유용할 수 있습니다.

생성 AI 이전에는 에이전트가 주의를 기울이는 동시에 필요에 따라 메모를 작성하고 다른 작업을 수행해야 했습니다. 자동으로 통화 내용을 기록하고 LLM을 사용하여 자동으로 요약을 생성함으로써 상담원의 정신적 부담을 줄여 우수한 고객 경험을 제공하는 데 집중할 수 있습니다. 이는 상담원이 메모하거나 기억한 내용뿐만 아니라 통화 중에 발생한 내용을 정확하게 표현하기 때문에 통화 후 작업이 더 정확해집니다.

요약

샘플 LCA 애플리케이션은 오픈 소스로 제공됩니다. 이를 자체 솔루션의 시작점으로 사용하고 GitHub 풀 요청을 통해 수정 사항과 기능을 다시 제공하여 더 나은 애플리케이션을 만드는 데 도움을 주세요. LCA 배포에 대한 자세한 내용은 다음을 참조하세요. Amazon 언어 AI 서비스를 통해 고객 센터에 대한 실시간 통화 분석 및 상담원 지원. 찾아보기 LCA GitHub 저장소 코드를 탐색하고, 새 릴리스에 대한 알림을 받도록 등록하고, README 최신 문서 업데이트를 확인하세요. 이미 Amazon Connect를 사용하고 있는 고객의 경우 다음을 참조하여 Amazon Connect를 통한 생성 AI에 대해 자세히 알아볼 수 있습니다. 컨택센터 리더가 생성적 AI를 준비하는 방법.

저자 소개

크리스토퍼 로트 AWS AI 언어 서비스 팀의 선임 솔루션 아키텍트입니다. 그는 엔터프라이즈 소프트웨어 개발 경력이 20년입니다. Chris는 캘리포니아 주 새크라멘토에 거주하며 정원 가꾸기, 항공 우주 및 세계 여행을 즐깁니다.

스므리티 란잔 언어 및 검색 서비스를 담당하는 AWS AI/ML 팀의 수석 제품 관리자입니다. AWS에 합류하기 전에 그녀는 Amazon Devices 및 기타 기술 스타트업에서 제품 및 성장 기능을 주도했습니다. Smriti는 매사추세츠주 보스턴에 거주하며 하이킹, 콘서트 참석, 세계 여행을 즐깁니다.

spot_img

최신 인텔리전스

spot_img

저작권 @ 2024 Plato Technologies Inc.