이 게시물은 Alida의 Sherwin Chu와 공동으로 작성되었습니다.

Alida 세계 최대 브랜드가 참여도가 높은 연구 커뮤니티를 만들어 더 나은 고객 경험과 제품 혁신을 촉진하는 피드백을 수집하도록 돕습니다.

Alida의 고객은 단일 설문조사에 대해 수만 건의 참여 응답을 받습니다. 따라서 Alida 팀은 대규모 고객에게 서비스를 제공하기 위해 기계 학습(ML)을 활용하기로 결정했습니다. 그러나 전통적인 자연어 처리(NLP) 모델을 사용할 때 이러한 솔루션이 개방형 설문조사 응답에서 발견되는 미묘한 피드백을 완전히 이해하는 데 어려움을 겪는다는 사실을 발견했습니다. 모델은 표면적인 주제와 정서만 포착하는 경우가 많았으며 보다 정확하고 의미 있는 통찰력을 제공하는 중요한 맥락을 놓쳤습니다.

이 게시물에서는 Anthropic의 Claude Instant 모델이 어떻게 작동하는지 알아봅니다. 아마존 기반암 Alida 팀은 복잡한 설문조사 응답 내에서 주제와 감정을 보다 정확하게 결정하는 확장 가능한 서비스를 신속하게 구축할 수 있었습니다. 새로운 서비스는 수백 개의 시끄러운 NLP 키워드에 비해 수십 개의 핵심 주제를 긴밀하게 클러스터링하여 주제 어설션에서 4~6배의 향상을 달성했습니다.

Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Stability AI 및 Amazon과 같은 주요 AI 기업의 고성능 기반 모델(FM)을 단일 API를 통해 선택할 수 있는 완전관리형 서비스입니다. 보안, 개인정보 보호, 책임 있는 AI를 갖춘 생성적 AI 애플리케이션을 구축하는 데 필요한 기능 세트입니다.

Amazon Bedrock을 사용하면 Alida는 다른 기계 학습(ML) 제공업체나 공급업체를 이용할 때보다 더 빠르게 서비스를 시장에 출시할 수 있었습니다.

난제

객관식 질문과 서술형 질문이 결합된 설문조사를 통해 시장 조사원은 정량적 및 정성적 데이터 포인트를 모두 캡처하여 보다 전체적인 관점을 얻을 수 있습니다.

객관식 질문은 대규모로 분석하기 쉽지만 뉘앙스와 깊이가 부족합니다. 응답 옵션을 설정하면 참가자 응답이 편향되거나 프라이밍될 수도 있습니다.

서술형 설문조사 질문을 통해 응답자는 맥락과 예상치 못한 피드백을 제공할 수 있습니다. 이러한 정성적 데이터 포인트는 객관식 질문만으로는 포착할 수 있는 것 이상으로 연구자의 이해를 심화시킵니다. 자유 형식 텍스트의 문제점은 기존 NLP가 완전히 이해하기 어려운 복잡하고 미묘한 답변으로 이어질 수 있다는 것입니다. 예를 들어:

“저는 최근에 삶의 어려움을 겪었고 정말 낙담하고 실망했습니다. 제가 들어갔을 때 직원들은 항상 저에게 매우 친절했습니다. 힘든 시기를 이겨내는 데 도움이 됐어요!”

전통적인 NLP 방법은 주제를 "어려움", "실망", "친절한 직원", "힘든 시기 극복"으로 식별합니다. 응답자의 전반적인 현재 부정적인 삶의 경험과 특정한 긍정적인 매장 경험을 구별할 수 없습니다.

Alida의 기존 솔루션은 대량의 개방형 응답을 자동으로 처리하지만 고객이 더 나은 상황 이해와 높은 수준의 주제 추론을 얻기를 원했습니다.

아마존 기반암

LLM을 도입하기 전에 Alida가 기존 단일 모델 솔루션을 개선할 수 있는 방법은 업계 전문가와 긴밀히 협력하고 Alida 고객이 활동하는 각 산업 분야에 맞게 새로운 모델을 개발, 교육 및 개선하는 것이었습니다. 이는 시간과 비용이 많이 드는 작업이었습니다.

LLM을 강력하게 만드는 혁신 중 하나는 주의 메커니즘을 사용하는 것입니다. LLM은 주어진 프롬프트에서 단어 간의 관계를 분석하는 self-attention 메커니즘을 사용합니다. 이를 통해 LLM은 이전 예의 주제와 감정을 더 잘 처리할 수 있으며 문제를 해결하는 데 사용할 수 있는 흥미로운 새 기술을 제시합니다.

Amazon Bedrock을 사용하면 팀과 개인은 인프라 프로비저닝이나 ML 프레임워크 설정 및 구성에 대해 걱정할 필요 없이 즉시 기초 모델 사용을 시작할 수 있습니다. 다음 단계에 따라 시작할 수 있습니다.

1. 사용자 또는 역할에 Amazon Bedrock 리소스를 생성하거나 수정할 수 있는 권한이 있는지 확인하십시오. 자세한 내용은 다음을 참조하세요. Amazon Bedrock의 자격 증명 기반 정책 예
2. 로그인 아마존 기반암 콘솔.
3. 에 모델 액세스 페이지에서 EULA를 검토하고 계정에서 원하는 FM을 활성화하세요.
4. 다음 방법을 통해 FM과 상호작용을 시작하세요.

Alida의 경영진은 팀이 새로운 생성 AI 기반 솔루션을 더 빨리 시장에 출시하는 데 도움이 되는 능력을 인식했기 때문에 Amazon Bedrock의 얼리 어답터가 되기를 열망했습니다.

주제 및 감정 분석 서비스 구축을 담당하는 팀을 이끌고 있는 Alida의 엔지니어링 부문 수석 이사인 Vincy William은 다음과 같이 말합니다.

“LLM은 질적 분석에 큰 도약을 제공하고 인간이 할 수 없는 일을 (규모로) 수행합니다. Amazon Bedrock은 게임 체인저로서 복잡성 없이 LLM을 활용할 수 있게 해줍니다.”

엔지니어링 팀은 Amazon Bedrock을 즉시 쉽게 시작할 수 있다는 것을 경험했습니다. 모델을 실행하기 위해 리소스 크기 조정, 프로비저닝, 배포 및 구성에 시간을 낭비하는 대신 다양한 기반 모델 중에서 선택하고 신속한 엔지니어링에 집중할 수 있습니다.

솔루션 개요

Alida의 수석 설계자인 Sherwin Chu는 Alida의 마이크로서비스 아키텍처 접근 방식을 공유했습니다. Alida는 설문조사 응답 분석을 첫 번째 애플리케이션으로 사용하여 주제 및 감정 분류를 서비스로 구축했습니다. 이 접근 방식을 사용하면 프롬프트 관리의 복잡성, 토큰 제한, 요청 제한 및 재시도와 같은 일반적인 LLM 구현 문제가 추상화되고 솔루션을 사용하면 간단하고 안정적인 API를 사용하여 애플리케이션을 사용할 수 있습니다. 또한 이 추상화 계층 접근 방식을 통해 서비스 소유자는 내부 구현 세부 사항을 지속적으로 개선하고 API에 영향을 미치는 변경을 최소화할 수 있습니다. 마지막으로, 서비스 접근 방식을 사용하면 조직에서 AI 거버넌스가 성숙해짐에 따라 발전하는 모든 데이터 거버넌스 및 보안 정책을 단일 지점에서 구현할 수 있습니다.

다음 다이어그램은 솔루션 아키텍처와 흐름을 보여줍니다.

Alida는 다양한 제공업체의 LLM을 평가한 후 Anthropic의 Claude Instant가 비용과 성능 간의 적절한 균형을 이루고 있음을 발견했습니다. 프롬프트 엔지니어링 팀과 긴밀히 협력하면서 Chu는 단일 모놀리스 프롬프트 접근 방식이 아닌 프롬프트 체인 전략을 구현해야 한다고 주장했습니다.

프롬프트 연결을 사용하면 다음을 수행할 수 있습니다.

• 목표를 더 작고 논리적인 단계로 나누세요.
• 각 단계에 대한 프롬프트 작성
• LLM에 순차적으로 프롬프트 제공

이렇게 하면 추가 검사 지점이 생성되어 다음과 같은 이점이 있습니다.

• 입력 프롬프트에 대한 변경 사항을 체계적으로 평가하는 것은 간단합니다.
• 각 단계의 정확성과 성능에 대한 보다 자세한 추적 및 모니터링을 구현할 수 있습니다.

이 전략의 주요 고려 사항에는 LLM에 대한 요청 수의 증가와 결과적으로 목표를 완료하는 데 걸리는 전체 시간의 증가가 포함됩니다. Alida의 사용 사례에서 LLM에 대한 단일 프롬프트로 개방형 응답 모음을 일괄 처리하기로 선택한 것은 이러한 효과를 상쇄하기 위해 선택한 것입니다.

NLP 대 LLM

Alida의 기존 NLP 솔루션은 클러스터링 알고리즘과 통계 분류를 사용하여 개방형 설문조사 응답을 분석합니다. 커피숍 모바일 앱의 샘플 피드백에 적용했을 때 단어 패턴을 기반으로 주제를 추출했지만 진정한 이해력이 부족했습니다. 다음 표에는 NLP 응답과 LLM 응답을 비교하는 몇 가지 예가 포함되어 있습니다.

예제 결과는 기존 솔루션이 관련 키워드를 추출할 수 있었지만 보다 일반화된 주제 그룹 할당을 달성할 수 없었던 방법을 보여줍니다.

이와 대조적으로 Amazon Bedrock 및 Anthropic Claude Instant를 사용하면 상황별 교육이 포함된 LLM이 사전 정의된 주제에 응답을 할당하고 감정을 할당할 수 있습니다.

Alida 고객에게 더 나은 답변을 제공하는 것 외에도 이 특정 사용 사례에 대해 기존 NLP 방법보다 LLM을 사용하여 솔루션을 추구하면 적합한 모델을 교육하고 유지하는 데 드는 시간과 노력이 크게 절약되었습니다. 다음 표에서는 기존 NLP 모델 교육과 LLM의 상황별 교육을 비교합니다.

결론

Alida가 Amazon Bedrock에서 Anthropic의 Claude Instant 모델을 사용하는 것은 개방형 설문조사 응답을 분석하는 LLM의 강력한 기능을 보여줍니다. Alida는 NLP 기반 서비스에 비해 주제 분석에서 4~6배 더 정확한 우수한 서비스를 구축할 수 있었습니다. 또한 LLM에 컨텍스트 내 프롬프트 엔지니어링을 사용하면 기존 NLP 모델을 교육하기 위해 사람이 라벨을 붙인 수천 개의 데이터 포인트를 선별할 필요가 없기 때문에 개발 시간이 크게 단축되었습니다. 이를 통해 궁극적으로 Alida는 고객에게 더 풍부한 통찰력을 더 빨리 제공할 수 있습니다!

Amazon Bedrock을 사용하여 자체 기반 모델 혁신을 구축할 준비가 되었다면 다음 링크를 확인하십시오. Amazon Bedrock 설정. 다른 흥미로운 Amazon Bedrock 애플리케이션에 대해 읽고 싶다면 다음을 참조하세요. Amazon Bedrock 특정 섹션 AWS 기계 학습 블로그의 내용입니다.

저자 소개

킨만 램 AWS용 ISV/DNB 솔루션 아키텍트입니다. 그는 스마트폰, 위치 정보, IoT 및 오픈 소스 소프트웨어 공간에서 기술 회사를 구축하고 성장시키는 데 17년의 경험을 갖고 있습니다. AWS에서 그는 자신의 경험을 활용하여 기업이 성장하는 비즈니스의 증가하는 요구를 충족하고, 새로운 제품과 서비스를 출시하고, 새로운 시장에 진출하고, 고객을 만족시킬 수 있는 강력한 인프라를 구축하도록 돕습니다.

셔윈 추 Alida의 수석 설계자로서 제품 팀의 아키텍처 방향, 기술 선택 및 복잡한 문제 해결을 돕습니다. 그는 다양한 산업 분야의 SaaS 분야에서 20년 이상 경력을 쌓은 숙련된 소프트웨어 엔지니어, 설계자 및 리더입니다. 그는 AWS와 GCP에서 수많은 B2B 및 B2C 시스템을 구축하고 관리했습니다.

마크 로이 AWS의 주요 기계 학습 설계자로서 고객이 AI/ML 및 생성 AI 솔루션을 설계하고 구축하도록 지원합니다. 2023년 초부터 그는 빌더를 위한 AWS의 대표적인 생성 AI 제품인 Amazon Bedrock 출시를 위한 솔루션 아키텍처 노력을 주도하는 데 주력해 왔습니다. Mark의 업무는 생성 AI, 에이전트, 기업 전반의 ML 확장에 주요 관심을 두고 광범위한 사용 사례를 다루고 있습니다. 그는 보험, 금융 서비스, 미디어 및 엔터테인먼트, 의료, 유틸리티 및 제조 분야의 기업을 도왔습니다. AWS에 합류하기 전에 Mark는 금융 서비스 분야에서 25년을 포함해 19년 넘게 설계자, 개발자 및 기술 리더로 활동했습니다. Mark는 ML 전문 자격증을 포함하여 XNUMX개의 AWS 자격증을 보유하고 있습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/alida-gains-deeper-understanding-of-customer-feedback-with-amazon-bedrock/