Zephyrnet Logosu

Amazon Bedrock için Temsilcileri ve Bilgi Tabanlarını kullanarak sigorta talebi yaşam döngüsünü otomatikleştirin | Amazon Web Hizmetleri

Tarih:

üretken yapay zeka acenteler büyük işletmeler için çok yönlü ve güçlü bir araçtır. Maliyetleri düşürürken ve inovasyonu mümkün kılarken operasyonel verimliliği, müşteri hizmetlerini ve karar almayı geliştirebilirler. Bu aracılar, veri girişi, müşteri destek sorguları ve içerik oluşturma gibi çok çeşitli rutin ve tekrarlanan görevleri otomatikleştirme konusunda uzmandır. Üstelik görevleri daha küçük, yönetilebilir adımlara bölerek, çeşitli eylemleri koordine ederek ve bir kuruluş içindeki süreçlerin verimli bir şekilde yürütülmesini sağlayarak karmaşık, çok adımlı iş akışlarını düzenleyebilirler. Bu, insan kaynakları üzerindeki yükü önemli ölçüde azaltır ve çalışanların daha stratejik ve yaratıcı görevlere odaklanmasına olanak tanır.

Yapay zeka teknolojisi gelişmeye devam ettikçe, üretken yapay zeka aracılarının yeteneklerinin de artması ve müşterilere rekabet avantajı kazanmaları için daha fazla fırsat sunması bekleniyor. Bu evrimin ön saflarında yer alan Amazon Ana KayasıAmazon ve diğer önde gelen yapay zeka şirketlerinin yüksek performanslı temel modellerini (FM'ler) bir API aracılığıyla kullanıma sunan, tam olarak yönetilen bir hizmettir. Amazon Bedrock ile güvenlik, gizlilik ve sorumlu yapay zeka ile üretken yapay zeka uygulamaları oluşturabilir ve ölçeklendirebilirsiniz. Artık kullanabilirsiniz Amazon Bedrock Temsilcileri ve Amazon Bedrock için Bilgi Tabanları doğal dil girişine ve kuruluşunuzun verilerine dayalı olarak eylemleri sorunsuz bir şekilde yürüten özel aracıları yapılandırmak için. Bu yönetilen aracılar, FM'ler, API entegrasyonları, kullanıcı konuşmaları ve verilerinizle yüklenen bilgi kaynakları arasındaki etkileşimleri düzenleyerek orkestra şefi görevi görür.

Bu gönderide, sigorta talebi yaşam döngüsüyle ilişkili görevleri otomatikleştirmek, müşteri hizmetlerini verimli bir şekilde ölçeklendirmek ve iyileştirmek ve iyileştirilmiş bilgi yönetimi yoluyla karar desteğini geliştirmek amacıyla mevcut kurumsal kaynakları geliştirmek için Amazon Bedrock için Temsilcileri ve Bilgi Tabanlarını nasıl kullanabileceğinizi vurgulanır. Amazon Bedrock destekli sigorta acenteniz, yeni talepler oluşturarak, açık talepler için bekleyen belge hatırlatıcıları göndererek, talep kanıtlarını toplayarak ve mevcut talepler ve müşteri bilgi havuzlarında bilgi arayarak insan acentelere yardımcı olabilir.

Çözüme genel bakış

Bu çözümün amacı, sanal asistanlar ve otomasyon görevleri gibi çeşitli ihtiyaçlar için kendi özel aracılarınızı oluşturmanıza olanak tanıyarak müşteriler için bir temel oluşturmaktır. Dağıtım için gereken kod ve kaynaklar şu adreste mevcuttur: amazon-ana kaya-örnekler deposu.

Aşağıdaki demo kaydında Amazon Bedrock işlevlerine yönelik Aracılar ve Bilgi Tabanları ile teknik uygulama ayrıntıları vurgulanmaktadır.

Amazon Bedrock Aracıları ve Bilgi Tabanları aşağıdaki yetenekleri sağlamak için birlikte çalışır:

  • Görev orkestrasyonu – Aracılar, doğal dil sorgularını anlamak ve çok adımlı görevleri daha küçük, yürütülebilir adımlara ayırmak için FM'leri kullanır.
  • Etkileşimli veri toplama – Temsilciler, kullanıcılardan ek bilgi toplamak için doğal görüşmelere katılır.
  • Görevin yerine getirilmesi – Temsilciler, müşteri isteklerini bir dizi akıl yürütme adımı ve aşağıdakilere dayalı olarak karşılık gelen eylemler yoluyla tamamlar: ReAct istemi.
  • Sistem entegrasyonu – Temsilciler, belirli eylemleri gerçekleştirmek için entegre şirket sistemlerine API çağrıları yapar.
  • veri sorgulama – Bilgi tabanları, tam olarak yönetilen yoluyla doğruluğu ve performansı artırır Alma Artırılmış Nesil (RAG) müşteriye özel veri kaynaklarını kullanır.
  • Kaynak ilişkilendirmesi – Aracılar, düşünce zinciri mantığı yoluyla bilgi veya eylemlerin kökenini belirleyerek ve takip ederek kaynak ilişkilendirme gerçekleştirir.

Aşağıdaki şemada çözüm mimarisi gösterilmektedir.

Temsilciye genel bakış

İş akışı aşağıdaki adımlardan oluşur:

  1. Kullanıcılar aracıya doğal dil girdileri sağlar. Aşağıda bazı örnek istemler verilmiştir:
    1. Yeni bir hak talebi oluşturun.
    2. 2s34w-8x talebinin poliçe sahibine bekleyen belgeler hatırlatıcısı gönderin.
    3. 5t16u-7v iddiasına ilişkin kanıt toplayın.
    4. 3b45c-9d talebi için toplam talep tutarı nedir?
    5. Aynı hak talebi için toplam onarım tahmini nedir?
    6. Kasko primimi hangi faktörler belirliyor?
    7. Araba sigorta oranlarımı nasıl düşürebilirim?
    8. Hangi hak talepleri açık durumdadır?
    9. Açık talepleri olan tüm poliçe sahiplerine hatırlatıcılar gönderin.
  2. Ön işleme sırasında aracı, kullanıcı girişini doğrular, bağlamsallaştırır ve kategorilere ayırır. Kullanıcı girişi (veya görevi), sohbet geçmişi ve talimatlar ve oturum sırasında belirtilen temel FM kullanılarak temsilci tarafından yorumlanır. temsilci oluşturma. Temsilcinin talimatları, temsilcinin amaçlanan eylemlerini özetleyen açıklayıcı yönergelerdir. Ayrıca isteğe bağlı olarak yapılandırabilirsiniz gelişmiş istemlerBu, daha ayrıntılı yapılandırmalar kullanarak ve birkaç adımlık komut istemi için manuel olarak seçilmiş örnekler sunarak aracınızın hassasiyetini artırmanıza olanak tanır. Bu yöntem, belirli bir görevle ilişkili etiketli örnekler sağlayarak modelin performansını artırmanıza olanak tanır.
  3. Eylem grupları OpenAPI şeması, içinde depolanan JSON dosyaları olarak tanımlanan bir dizi API ve karşılık gelen iş mantığıdır. Amazon Basit Depolama Hizmeti (Amazon S3). Şema, aracının her bir API'nin işlevi etrafında akıl yürütmesine olanak tanır. Her eylem grubu, iş mantığının çalıştırıldığı bir veya daha fazla API yolu belirtebilir. AWS Lambda eylem grubuyla ilişkili işlev.
  4. Amazon Bedrock için Bilgi Tabanları, aracıya verilerinize erişim sağlamak için tam olarak yönetilen RAG sağlar. Öncelikle aracıya bilgi tabanınızı ne zaman kullanacağını bildiren bir açıklama belirterek bilgi tabanını yapılandırırsınız. Daha sonra bilgi tabanını Amazon S3 veri kaynağınıza yönlendirirsiniz. Son olarak, bir yerleştirme modeli belirlersiniz ve mevcut vektör mağazanızı kullanmayı veya Amazon Bedrock'un vektör mağazasını sizin adınıza oluşturmasına izin vermeyi seçersiniz. Yapılandırıldıktan sonra her veri kaynağı senkronizasyonu aracının kullanıcıya bilgi göndermek veya sonraki FM istemlerini artırmak için kullanabileceği verilerinizin vektör yerleştirmelerini oluşturur.
  5. Orkestrasyon sırasında aracı, temel FM için temel istemi artırmak amacıyla kullanılabilecek bir gözlem oluşturmak için eylem grubu API çağrılarının ve bilgi tabanı sorgularının gerekli olduğu mantıksal adımlarla bir mantık geliştirir. Bu ReAct tarzı yönlendirme, FM'nin etkinleştirilmesi için girdi görevi görür ve daha sonra kullanıcının görevini tamamlamak için en uygun eylem dizisini tahmin eder.
  6. İşlem sonrası sırasında, tüm orkestrasyon yinelemeleri tamamlandıktan sonra aracı, son bir yanıtı düzenler. Son işleme varsayılan olarak devre dışıdır.

Aşağıdaki bölümlerde, uygulama öncesi adımlar ve test ve doğrulama dahil olmak üzere çözümü dağıtmaya yönelik temel adımları tartışıyoruz.

AWS CloudFormation ile çözüm kaynakları oluşturun

Temsilcinizi ve bilgi tabanınızı oluşturmadan önce, müşterilerin kullandığı mevcut kaynakları yakından yansıtan simüle edilmiş bir ortam oluşturmak önemlidir. Amazon Bedrock Aracıları ve Bilgi Tabanları, Lambda tarafından sağlanan iş mantığını ve Amazon S3'te depolanan müşteri veri havuzlarını kullanarak bu kaynakları temel alacak şekilde tasarlanmıştır. Bu temel uyum, aracınızın ve bilgi tabanı çözümlerinizin yerleşik altyapınızla kusursuz bir entegrasyonunu sağlar.

Temsilci tarafından kullanılan mevcut müşteri kaynaklarını taklit etmek için bu çözüm, create-müşteri-kaynakları.sh Parametreli hale getirilmiş olanın sağlanmasını otomatikleştirmek için kabuk komut dosyası AWS CloudFormation şablon, ana kaya-müşteri-kaynakları.yml, aşağıdaki kaynakları dağıtmak için:

  • An Amazon DinamoDB sentetik ile doldurulmuş masa talep verileri.
  • Talep oluşturmak, açık durum talepleri için bekleyen belge hatırlatıcılarını göndermek ve yeni ve mevcut taleplere ilişkin kanıt toplamak için müşterinin iş mantığını temsil eden üç Lambda işlevi.
  • Önceki Lambda işlevlerine ilişkin OpenAPI şema formatındaki API belgelerini ve onarım tahminlerini, talep tutarlarını, şirket SSS'lerini ve bizim olarak kullanılacak gerekli talep belgesi açıklamalarını içeren bir S3 klasörü. bilgi tabanı veri kaynağı varlıkları.
  • An Amazon Basit Bildirim Servisi (Amazon SNS) Talep durumu ve bekleyen işlemlere ilişkin e-posta uyarısı için poliçe sahiplerinin e-postalarının abone olduğu konu.
  • AWS Kimlik ve Erişim Yönetimi Önceki kaynaklar için (IAM) izinleri.

AWS CloudFormation, yığın parametrelerini şablonda sağlanan varsayılan değerlerle önceden doldurur. Alternatif giriş değerleri sağlamak için parametreleri, belgede başvurulan ortam değişkenleri olarak belirleyebilirsiniz. ParameterKey=<ParameterKey>,ParameterValue=<Value> aşağıdaki kabuk betiğindeki çiftler aws cloudformation create-stack Komut.

Kaynaklarınızı sağlamak için aşağıdaki adımları tamamlayın:

  1. Yerel bir kopyasını oluşturun amazon-bedrock-samples kullanarak depo git clone:
    git clone https://github.com/aws-samples/amazon-bedrock-samples.git

  2. Kabuk betiğini çalıştırmadan önce klonladığınız dizine gidin. amazon-bedrock-samples depoyu açın ve kabuk komut dosyası izinlerini yürütülebilir olarak değiştirin:
    # If not already cloned, clone the remote repository (https://github.com/aws-samples/amazon-bedrock-samples) and change working directory to insurance agent shell folder
    cd amazon-bedrock-samples/agents/insurance-claim-lifecycle-automation/shell/
    chmod u+x create-customer-resources

  3. CloudFormation yığın adınızı, SNS e-postanızı ve kanıt yükleme URL'si ortam değişkenlerinizi ayarlayın. SNS e-postası poliçe sahibi bildirimleri için kullanılacak ve kanıt yükleme URL'si, talep kanıtlarını yüklemek üzere poliçe sahipleriyle paylaşılacaktır. sigorta talepleri işleme örneği kanıt yükleme URL'si için örnek bir ön uç sağlar.
    export STACK_NAME=<YOUR-STACK-NAME> # Stack name must be lower case for S3 bucket naming convention
    export SNS_EMAIL=<YOUR-POLICY-HOLDER-EMAIL> # Email used for SNS notifications
    export EVIDENCE_UPLOAD_URL=<YOUR-EVIDENCE-UPLOAD-URL> # URL provided by the agent to the policy holder for evidence upload

  4. Çalıştır create-customer-resources.sh içinde tanımlanan öykünülmüş müşteri kaynaklarını dağıtmak için kabuk komut dosyası bedrock-insurance-agent.yml CloudFormation şablonu. Bunlar, aracının ve bilgi tabanının üzerine inşa edileceği kaynaklardır.
    source ./create-customer-resources.sh

Önceki source ./create-customer-resources.sh Shell komutu aşağıdakileri çalıştırır AWS Komut Satırı Arayüzü (AWS CLI) öykünülmüş müşteri kaynakları yığınını dağıtma komutları:

export ACCOUNT_ID=$(aws sts get-caller-identity --query Account --output text)
export ARTIFACT_BUCKET_NAME=$STACK_NAME-customer-resources
export DATA_LOADER_KEY="agent/lambda/data-loader/loader_deployment_package.zip"
export CREATE_CLAIM_KEY="agent/lambda/action-groups/create_claim.zip"
export GATHER_EVIDENCE_KEY="agent/lambda/action-groups/gather_evidence.zip"
export SEND_REMINDER_KEY="agent/lambda/action-groups/send_reminder.zip"

aws s3 mb s3://${ARTIFACT_BUCKET_NAME} --region us-east-1
aws s3 cp ../agent/ s3://${ARTIFACT_BUCKET_NAME}/agent/ --recursive --exclude ".DS_Store"

export BEDROCK_AGENTS_LAYER_ARN=$(aws lambda publish-layer-version 
--layer-name bedrock-agents 
--description "Agents for Bedrock Layer" 
--license-info "MIT" 
--content S3Bucket=${ARTIFACT_BUCKET_NAME},S3Key=agent/lambda/lambda-layer/bedrock-agents-layer.zip 
--compatible-runtimes python3.11 
--query LayerVersionArn --output text)

aws cloudformation create-stack 
--stack-name ${STACK_NAME} 
--template-body file://../cfn/bedrock-customer-resources.yml 
--parameters 
ParameterKey=ArtifactBucket,ParameterValue=${ARTIFACT_BUCKET_NAME} 
ParameterKey=DataLoaderKey,ParameterValue=${DATA_LOADER_KEY} 
ParameterKey=CreateClaimKey,ParameterValue=${CREATE_CLAIM_KEY} 
ParameterKey=GatherEvidenceKey,ParameterValue=${GATHER_EVIDENCE_KEY} 
ParameterKey=SendReminderKey,ParameterValue=${SEND_REMINDER_KEY} 
ParameterKey=BedrockAgentsLayerArn,ParameterValue=${BEDROCK_AGENTS_LAYER_ARN} 
ParameterKey=SNSEmail,ParameterValue=${SNS_EMAIL} 
ParameterKey=EvidenceUploadUrl,ParameterValue=${EVIDENCE_UPLOAD_URL} 
--capabilities CAPABILITY_NAMED_IAM

aws cloudformation describe-stacks --stack-name $STACK_NAME --query "Stacks[0].StackStatus"
aws cloudformation wait stack-create-complete --stack-name $STACK_NAME

Bir bilgi tabanı oluşturun

Amazon Bedrock için Bilgi Tabanları, FM'ler tarafından oluşturulan yanıtları geliştirmek için müşteri veri depolarından yararlanan bir teknik olan RAG'ı kullanır. Bilgi tabanları, aracıların, yoğun yönetici yükü olmadan mevcut müşteri veri havuzlarına erişmesine olanak tanır. Bir bilgi tabanını verilerinize bağlamak için S3 grubunu belirtirsiniz. veri kaynağı. Bilgi tabanları sayesinde uygulamalar, zenginleştirilmiş bağlamsal bilgiler elde ederek tam olarak yönetilen bir RAG çözümü aracılığıyla geliştirmeyi kolaylaştırır. Bu düzeyde bir soyutlama, verilerinizi aracı işlevselliğine dahil etme çabasını en aza indirerek pazara sunma süresini hızlandırır ve özel verileri kullanmak için modelin sürekli olarak yeniden eğitilmesi gerekliliğini ortadan kaldırarak maliyeti optimize eder.

Aşağıdaki diyagram, yerleştirme modeline sahip bir bilgi tabanının mimarisini göstermektedir.

Bilgi Tabanlarına genel bakış

Bilgi tabanı işlevselliği iki temel süreç aracılığıyla tanımlanır: ön işleme (1-3. Adımlar) ve çalışma zamanı (4-7. Adımlar):

  1. Belgeler yönetilebilir bölümlere ayırmaya (parçalara ayırma) tabi tutulur.
  2. Bu parçalar, Amazon Bedrock yerleştirme modeli kullanılarak yerleştirmelere dönüştürülür.
  3. Yerleştirmeler, kullanıcı sorguları ile veri kaynağı metni arasında anlamsal benzerlik karşılaştırmalarına olanak tanıyan bir vektör dizini oluşturmak için kullanılır.
  4. Çalışma zamanı sırasında kullanıcılar metin girişlerini bir bilgi istemi olarak sağlarlar.
  5. Giriş metni, Amazon Bedrock yerleştirme modeli kullanılarak vektörlere dönüştürülür.
  6. Vektör dizini, kullanıcının sorgusuyla ilgili parçalar için sorgulanır ve kullanıcı istemi, vektör dizinden alınan ek bağlamla zenginleştirilir.
  7. Genişletilmiş istem, ek bağlamla birleştiğinde kullanıcı için bir yanıt oluşturmak için kullanılır.

Bir bilgi tabanı oluşturmak için aşağıdaki adımları tamamlayın:

  1. Amazon Bedrock konsolunda şunu seçin: Bilgi tabanı Gezinti bölmesinde.
  2. Klinik Bilgi tabanı oluştur.
  3. Altında Bilgi tabanı ayrıntılarını sağlayın, tüm varsayılan ayarları bırakarak bir ad ve isteğe bağlı bir açıklama girin. Bu yazı için açıklamayı giriyoruz:
    Use to retrieve claim amount and repair estimate information for claim ID, or answer general insurance questions about things like coverage, premium, policy, rate, deductible, accident, and documents.
  4. Altında Veri kaynağını ayarla, isim girin.
  5. Klinik S3'e göz atın Seçin ve knowledge-base-assets daha önce dağıttığınız veri kaynağı S3 paketinin klasörü (<YOUR-STACK-NAME>-customer-resources/agent/knowledge-base-assets/).
    Bilgi tabanı S3 veri kaynağı yapılandırması
  6. Altında Gömme modelini seçin ve vektör deposunu yapılandırın, seçmek Titan Gömmeleri G1 – Metin ve diğer varsayılan ayarları bırakın. Bir Amazon OpenSearch Sunucusuz Toplamak sizin için yaratılacak. Bu vektör deposu, bilgi tabanı ön işleme yerleştirmelerinin depolandığı ve daha sonra sorgular ve veri kaynağı metni arasındaki anlamsal benzerlik araması için kullanıldığı yerdir.
  7. Altında İnceleyin ve oluşturun, yapılandırma ayarlarınızı onaylayın ve ardından Bilgi tabanı oluştur.
    Bilgi Bankası Yapılandırmasına Genel Bakış
  8. Bilgi tabanınız oluşturulduktan sonra, veri kaynağınızı senkronize etme seçeneğinin yer aldığı yeşil bir "başarıyla oluşturuldu" başlığı görüntülenecektir. Seçmek Senkronizasyon Veri kaynağı senkronizasyonunu başlatmak için.
    Bilgi Bankası Oluşturma Banner'ı
  9. Amazon Bedrock konsolunda yeni oluşturduğunuz bilgi tabanına gidin ve ardından bilgi tabanı kimliğini not edin. Bilgi tabanına genel bakış.
    Bilgi Tabanına Genel Bakış
  10. Bilgi tabanınız hâlâ seçili durumdayken, aşağıda listelenen bilgi tabanı veri kaynağınızı seçin. Veri kaynağı, ardından altındaki veri kaynağı kimliğini not edin Veri kaynağına genel bakış.

Bilgi tabanı kimliği ve veri kaynağı kimliği, aracınız için Streamlit web kullanıcı arayüzünü dağıttığınızda daha sonraki bir adımda ortam değişkenleri olarak kullanılır.

Temsilci oluştur

Aracılar, birkaç temel bileşenden oluşan bir derleme zamanı çalıştırma süreci aracılığıyla çalışır:

  • Temel modeli – Kullanıcılar, orkestrasyon süreci sırasında kullanıcı girdilerini yorumlama, yanıt oluşturma ve sonraki eylemleri yönlendirme konusunda aracıya rehberlik eden bir FM seçer.
  • talimatlar – Kullanıcılar, aracının amaçlanan işlevselliğini özetleyen ayrıntılı talimatlar hazırlar. İsteğe bağlı gelişmiş istemler, çıktıları ayrıştırmak için Lambda işlevlerini birleştirerek her düzenleme adımında özelleştirmeye olanak tanır.
  • (İsteğe bağlı) Eylem grupları – Kullanıcılar, görev çalıştırmaları için API'leri ve API giriş ve çıkışlarını işlemek için Lambda işlevlerini tanımlamak üzere bir OpenAPI şeması kullanarak aracıya yönelik eylemleri tanımlar.
  • (İsteğe bağlı) Bilgi tabanları – Kullanıcılar, aracıları bilgi tabanlarıyla ilişkilendirerek yanıt oluşturma ve düzenleme adımları için ek bağlama erişim sağlayabilir.

Bu örnek çözümdeki aracı, Amazon Bedrock'ta bir Anthropic Claude V2.1 FM, bir dizi talimat, üç eylem grubu ve bir bilgi tabanı kullanıyor.

Bir aracı oluşturmak için aşağıdaki adımları tamamlayın:

  1. Amazon Bedrock konsolunda şunu seçin: Danışmanlar Gezinti bölmesinde.
  2. Klinik Temsilci oluştur.
  3. Altında Temsilci ayrıntılarını sağlayın, diğer tüm varsayılan ayarları bırakarak bir aracı adı ve isteğe bağlı açıklama girin.
  4. Altında Model seç, seçmek Antropik Claude V2.1 ve temsilci için aşağıdaki talimatları belirtin: You are an insurance agent that has access to domain-specific insurance knowledge. You can create new insurance claims, send pending document reminders to policy holders with open claims, and gather claim evidence. You can also retrieve claim amount and repair estimate information for a specific claim ID or answer general insurance questions about things like coverage, premium, policy, rate, deductible, accident, documents, resolution, and condition. You can answer internal questions about things like which steps an agent should follow and the company's internal processes. You can respond to questions about multiple claim IDs within a single conversation
  5. Klinik Sonraki.
  6. Altında Eylem grupları ekle, ilk eylem grubunuzu ekleyin:
    1. İçin Eylem grubu adını girin, girmek create-claim.
    2. İçin Açıklama, girmek Use this action group to create an insurance claim
    3. İçin Lambda işlevini seçin, seçmek <YOUR-STACK-NAME>-CreateClaimFunction.
    4. İçin API şemasını seçin, seçmek S3'e göz atın, daha önce oluşturulan paketi seçin (<YOUR-STACK-NAME>-customer-resources), ardından agent/api-schema/create_claim.json.
  7. İkinci bir eylem grubu oluşturun:
    1. İçin Eylem grubu adını girin, girmek gather-evidence.
    2. İçin Açıklama, girmek Use this action group to send the user a URL for evidence upload on open status claims with pending documents. Return the documentUploadUrl to the user
    3. İçin Lambda işlevini seçin, seçmek <YOUR-STACK-NAME>-GatherEvidenceFunction.
    4. İçin API şemasını seçin, seçmek S3'e göz atın, daha önce oluşturulan paketi seçin ve ardından agent/api-schema/gather_evidence.json.
  8. Üçüncü bir eylem grubu oluşturun:
    1. İçin Eylem grubu adını girin, girmek send-reminder.
    2. İçin Açıklama, girmek Use this action group to check claim status, identify missing or pending documents, and send reminders to policy holders
    3. İçin Lambda işlevini seçin, seçmek <YOUR-STACK-NAME>-SendReminderFunction.
    4. İçin API şemasını seçin, seçmek S3'e göz atın, daha önce oluşturulan paketi seçin ve ardından agent/api-schema/send_reminder.json.
  9. Klinik Sonraki.
  10. İçin Bilgi tabanını seçin, daha önce oluşturduğunuz bilgi tabanını seçin (claims-knowledge-base).
  11. İçin Temsilci için bilgi tabanı talimatları, aşağıdakileri girin: Use to retrieve claim amount and repair estimate information for claim ID, or answer general insurance questions about things like coverage, premium, policy, rate, deductible, accident, and documents
  12. Klinik Sonraki.
  13. Altında İnceleyin ve oluşturun, yapılandırma ayarlarınızı onaylayın ve ardından Temsilci oluştur.
    Aracı Yapılandırmasına Genel Bakış

Temsilciniz oluşturulduktan sonra yeşil bir "başarıyla oluşturuldu" banner'ını göreceksiniz.

Temsilci Oluşturma Banner'ı

Test ve doğrulama

Aşağıdaki test prosedürü, aracının yeni talepler oluşturmak, açık talepler için bekleyen belge hatırlatıcıları göndermek, talep kanıtlarını toplamak ve mevcut talepler ve müşteri bilgi havuzları genelinde bilgi aramak için kullanıcı amaçlarını doğru bir şekilde tanımladığını ve anladığını doğrulamayı amaçlamaktadır. Yanıt doğruluğu, Amazon Bedrock için Temsilciler ve Bilgi Tabanları tarafından oluşturulan yanıtların alaka düzeyi, tutarlılığı ve insana benzer doğası değerlendirilerek belirlenir.

Değerlendirme ölçütleri ve değerlendirme tekniği

Kullanıcı girişi ve aracı talimat doğrulaması aşağıdakileri içerir:

  • Ön İşleme – Temsilcinin yorumunu, anlayışını ve çeşitli kullanıcı girdilerine yanıt verme yeteneğini değerlendirmek için örnek istemleri kullanın. Kullanıcı girişini doğru bir şekilde doğrulamak, bağlamsallaştırmak ve kategorilere ayırmak için aracının yapılandırılmış talimatlara bağlılığını doğrulayın.
  • orkestrasyon – FM için temel istemi geliştirmek amacıyla eylem grubu API çağrıları ve bilgi tabanı sorguları için aracının izlediği mantıksal adımları (örneğin, "İzleme") değerlendirin.
  • Rötuş – Doğruluk ve alakadan emin olmak için düzenleme yinelemelerinden sonra aracı tarafından oluşturulan son yanıtları gözden geçirin. Son işleme varsayılan olarak etkin değildir ve bu nedenle temsilcimizin izlemesine dahil edilmez.

Eylem grubu değerlendirmesi aşağıdakileri içerir:

  • API şema doğrulaması – OpenAPI şemasının (Amazon S3'te depolanan JSON dosyaları olarak tanımlanır), aracının her bir API'nin amacına ilişkin muhakemesini etkili bir şekilde yönlendirdiğini doğrulayın.
  • İş mantığının uygulanması – Eylem grubuyla bağlantılı Lambda işlevleri aracılığıyla API yollarıyla ilişkili iş mantığının uygulanmasını test edin.

Bilgi tabanı değerlendirmesi aşağıdakileri içerir:

  • Yapılandırma doğrulaması – Bilgi tabanı talimatlarının aracıyı verilere ne zaman erişeceği konusunda doğru şekilde yönlendirdiğini doğrulayın.
  • S3 veri kaynağı entegrasyonu – Aracının belirtilen S3 veri kaynağında depolanan verilere erişme ve bu verileri kullanma becerisini doğrulayın.

Uçtan uca test aşağıdakileri içerir:

  • Entegre iş akışı – Gerçek dünya senaryolarını simüle etmek için hem eylem gruplarını hem de bilgi tabanlarını içeren kapsamlı testler gerçekleştirin.
  • Yanıt kalitesi değerlendirmesi – Temsilcinin çeşitli bağlamlarda ve senaryolarda verdiği yanıtların genel doğruluğunu, uygunluğunu ve tutarlılığını değerlendirin.

Bilgi tabanını test edin

Amazon Bedrock'ta bilgi tabanınızı kurduktan sonra, bir aracıyla entegre etmeden önce yanıtlarını değerlendirmek için davranışını doğrudan test edebilirsiniz. Bu test süreci, bilgi tabanının performansını değerlendirmenize, yanıtları incelemenize ve bilgilerin alındığı kaynak parçalarını keşfederek sorun gidermenize olanak sağlar. Aşağıdaki adımları tamamlayın:

  1. Amazon Bedrock konsolunda şunu seçin: Bilgi tabanı Gezinti bölmesinde.
    Bilgi Tabanı Konsoluna Genel Bakış
  2. Test etmek istediğiniz bilgi tabanını seçin ve ardından test Bir sohbet penceresini genişletmek için
    Bilgi Bankası Ayrıntıları
  3. Test penceresinde yanıt oluşturmak için temel modelinizi seçin.
    Bilgi Bankası Seçim Modeli
  4. Aşağıdaki örnek sorguları ve diğer girişleri kullanarak bilgi tabanınızı test edin:
    1. Talep ID 2s34w-8x için onarım tahmininin tanısı nedir?
    2. Aynı iddianın çözüm ve onarım tahmini nedir?
    3. Kaza sonrasında sürücü ne yapmalıdır?
    4. Kaza raporu ve görselleri için neler önerilir?
    5. Muafiyet nedir ve nasıl çalışır?
      Bilgi Tabanı Testi

Sohbet penceresinde yanıt oluşturma ve doğrudan alıntıları döndürme arasında geçiş yapabilirsiniz ve sağlanan simgeleri kullanarak sohbet penceresini temizleme veya tüm çıktıyı kopyalama seçeneğiniz vardır.

Bilgi tabanı yanıtlarını ve kaynak parçalarını incelemek için ilgili dipnotu seçebilir veya Sonuç ayrıntılarını göster. Parça metnini aramanıza, kopyalamanıza ve S3 veri kaynağına gitmenize olanak tanıyan bir kaynak parça penceresi görünecektir.

Temsilciyi test edin

Bilgi tabanınızın başarılı bir şekilde test edilmesinin ardından bir sonraki geliştirme aşaması, aracınızın işlevselliğinin hazırlanmasını ve test edilmesini içerir. Aracıyı hazırlamak, en son değişiklikleri paketlemeyi içerirken test etme, aracının davranışıyla etkileşimde bulunmak ve onu değerlendirmek için kritik bir fırsat sağlar. Bu süreç aracılığıyla aracı yeteneklerini geliştirebilir, verimliliğini artırabilir ve olası sorunları veya optimum performans için gerekli iyileştirmeleri ele alabilirsiniz. Aşağıdaki adımları tamamlayın:

  1. Amazon Bedrock konsolunda şunu seçin: Danışmanlar Gezinti bölmesinde.
    Aracılar Konsoluna Genel Bakış
  2. Temsilcinizi seçin ve temsilci kimliğini not edin.
    Temsilci Ayrıntıları
    Aracınız için Streamlit web kullanıcı arayüzünü dağıttığınızda daha sonraki bir adımda aracı kimliğini ortam değişkeni olarak kullanırsınız.
  3. Senin için gidin Çalışma taslağı. Başlangıçta, çalışan bir taslağınız ve bir varsayılanınız var. TestAlias bu taslağa işaret ediyor. Çalışma taslağı yinelemeli geliştirmeye izin verir.
  4. Klinik Hazırlamak aracıyı test etmeden önce en son değişikliklerle paketlemek için. En son yapılandırmalarla test yaptığınızı doğrulamak için aracının son hazırlanma süresini düzenli olarak kontrol etmelisiniz.
    Temsilci Çalışma Taslağı
  5. Test penceresine aracının çalışma taslak konsolundaki herhangi bir sayfadan aşağıdakileri seçerek erişin: test veya sol ok simgesini seçin.
  6. Test penceresinde test için bir takma ad ve sürümünü seçin. Bu yazı için şunu kullanıyoruz: TestAlias Temsilcinizin taslak sürümünü çağırmak için. Aracı hazır değilse test penceresinde bir bilgi istemi görüntülenir.
    Temsilciyi Hazırla
  7. Aşağıdaki örnek istemleri ve diğer girişleri kullanarak aracınızı test edin:
    1. Yeni bir hak talebi oluşturun.
    2. 2s34w-8x talebinin poliçe sahibine bekleyen belgeler hatırlatıcısı gönderin.
    3. 5t16u-7v iddiasına ilişkin kanıt toplayın.
    4. 3b45c-9d talebi için toplam talep tutarı nedir?
    5. Aynı hak talebi için toplam onarım tahmini nedir?
    6. Kasko primimi hangi faktörler belirliyor?
    7. Araba sigorta oranlarımı nasıl düşürebilirim?
    8. Hangi hak talepleri açık durumdadır?
    9. Açık talepleri olan tüm poliçe sahiplerine hatırlatıcılar gönderin.

Seçtiğinizden emin olun Hazırlamak aracıyı test etmeden önce bunları uygulamak için değişiklikler yaptıktan sonra.

Aşağıdaki test görüşmesi örneği, aracının, bir müşterinin Amazon DynamoDB tablosunu sorgulayan ve Amazon Simple Notification Service kullanarak müşteriye bildirimler gönderen AWS Lambda iş mantığıyla eylem grubu API'lerini çağırma yeteneğini vurgulamaktadır. Aynı konuşma dizisi, kullanıcıya talep tutarı ve SSS belgeleri gibi müşterinin yetkili veri kaynaklarını kullanarak yanıtlar sağlamak için aracı ve bilgi tabanı entegrasyonunu gösterir.

Ajan Testi

Aracı analizi ve hata ayıklama araçları

Temsilci yanıt izleri, temsilcinin her aşamada karar verme sürecini anlamaya yardımcı olacak, hata ayıklamayı kolaylaştıracak ve iyileştirme alanlarına ilişkin öngörüler sağlayacak temel bilgileri içerir. ModelInvocationInput Her izdeki nesne, temsilcinin karar verme sürecinde kullanılan ayrıntılı yapılandırmaları ve ayarları sağlayarak müşterilerin aracının etkinliğini analiz etmesine ve geliştirmesine olanak tanır.

Temsilciniz kullanıcı girişini aşağıdaki kategorilerden birine göre sıralayacaktır:

  • Kategori A – Kurgusal senaryolar olsa bile kötü niyetli veya zararlı girdiler.
  • Kategori B – Kullanıcının, işlev çağıran aracımızın hangi işlevler, API'ler veya talimatlar sağladığı hakkında bilgi almaya çalıştığı girdiler veya işlev çağıran aracımızın veya sizin davranışlarınızı veya talimatlarınızı manipüle etmeye çalışan girdiler.
  • Kategori C – İşlev çağırma aracımızın yanıtlayamayacağı veya yalnızca kendisine sağlanan işlevlerin kullanılmasıyla ilgili yararlı bilgiler sağlayamayacağı sorular.
  • Kategori D – Yalnızca kendisine sağlanan işlevleri ve içeriden gelen argümanları kullanarak işlev çağırma aracımız tarafından yanıtlanabilecek veya desteklenebilecek sorular conversation_history veya kullanarak toplayabileceği ilgili argümanlar askuser fonksiyonu.
  • Kategori E – Soru olmayan, bunun yerine işlev çağıran aracının kullanıcıya sorduğu bir soruya verilen yanıtlar olan girdiler. Girişler yalnızca şu durumlarda bu kategori için uygundur: askuser işlev, işlev çağıran aracının konuşmada çağırdığı son işlevdir. Bunu aşağıdakileri okuyarak kontrol edebilirsiniz: conversation_history.

Klinik İzi göster Bilgi tabanı ve eylem grubu kullanımı da dahil olmak üzere aracının yapılandırmalarını ve akıl yürütme sürecini görüntülemek için bir yanıt altında. Ayrıntılı analiz için izler genişletilebilir veya daraltılabilir. Kaynaklı bilgi içeren yanıtlar ayrıca alıntılar için dipnotlar içerir.

Aşağıdaki eylem grubu izleme örneğinde aracı, kullanıcı girişini create-claim eylem grubu createClaim ön işleme sırasında işlev görür. Aracı, aracı talimatlarına, eylem grubu açıklamasına ve OpenAPI şemasına dayalı olarak bu işleve ilişkin bir anlayışa sahiptir. Bu durumda iki adım olan düzenleme süreci sırasında, aracı, createClaim işlevi görür ve yeni oluşturulan talep kimliğini ve bekleyen belgelerin listesini içeren bir yanıt alır.

Aşağıdaki bilgi tabanı izleme örneğinde, aracı, ön işleme sırasında kullanıcı girişini Kategori D ile eşleştirir; bu, aracının mevcut işlevlerinden birinin yanıt sağlayabilmesi gerektiği anlamına gelir. Düzenleme boyunca aracı, bilgi tabanını arar, yerleştirmeleri kullanarak ilgili parçaları çeker ve nihai bir yanıt oluşturmak için bu metni temel modele aktarır.

Temsilciniz için Streamlit web kullanıcı arayüzünü dağıtın

Temsilcinizin ve bilgi tabanınızın performansından memnun olduğunuzda, onların yeteneklerini ürünleştirmeye hazır olursunuz. Kullanırız Akışlı Bu çözümde, bir üretim uygulamasını taklit etmeyi amaçlayan örnek bir ön uç başlatmak için. Streamlit, ön uç uygulamalar oluşturma sürecini kolaylaştırmak ve basitleştirmek için tasarlanmış bir Python kütüphanesidir. Uygulamamız iki özellik sunmaktadır:

  • Temsilci istemi girişi – Kullanıcıların şunları yapmasına izin verir: acenteyi çağır kendi görev girişlerini kullanarak.
  • Bilgi tabanı dosyası yükleme – Kullanıcının yerel dosyalarını bilgi tabanı için veri kaynağı olarak kullanılan S3 klasörüne yüklemesine olanak tanır. Dosya yüklendikten sonra uygulama bir alım işi başlatır Bilgi tabanı veri kaynağını senkronize etmek için.

Streamlit uygulama bağımlılıklarımızı izole etmek ve dağıtım kolaylığı sağlamak için setup-streamlit-env.sh Gereksinimlerin yüklü olduğu sanal bir Python ortamı oluşturmak için kabuk betiği. Aşağıdaki adımları tamamlayın:

  1. Kabuk betiğini çalıştırmadan önce klonladığınız dizine gidin. amazon-bedrock-samples deposunu açın ve Streamlit kabuk komut dosyası izinlerini yürütülebilir olarak değiştirin:
cd amazon-bedrock-samples/agents/insurance-claim-lifecycle-automation/agent/streamlit/
chmod u+x setup-streamlit-env.sh

  1. Sanal Python ortamını gerekli bağımlılıklarla etkinleştirmek için kabuk betiğini çalıştırın:
source ./setup-streamlit-env.sh

  1. Amazon Bedrock temsilci kimliğinizi, temsilci takma ad kimliğinizi, bilgi tabanı kimliğinizi, veri kaynağı kimliğinizi, bilgi tabanı grubu adınızı ve AWS Bölgesi ortam değişkenlerinizi ayarlayın:
export BEDROCK_AGENT_ID=<YOUR-AGENT-ID>
export BEDROCK_AGENT_ALIAS_ID=<YOUR-AGENT-ALIAS-ID>
export BEDROCK_KB_ID=<YOUR-KNOWLEDGE-BASE-ID>
export BEDROCK_DS_ID=<YOUR-DATA-SOURCE-ID>
export KB_BUCKET_NAME=<YOUR-KNOWLEDGE-BASE-S3-BUCKET-NAME>
export AWS_REGION=<YOUR-STACK-REGION>

  1. Streamlit uygulamanızı çalıştırın ve yerel web tarayıcınızda test etmeye başlayın:
streamlit run agent_streamlit.py

Temizlemek

AWS hesabınızda ücretlendirme yapılmasını önlemek için çözümün sağlanan kaynaklarını temizleyin

The delete-customer-resources.sh kabuk betiği, çözümün S3 klasörünü boşaltıp siler ve başlangıçta sağlanan kaynakları siler. bedrock-customer-resources.yml CloudFormasyon yığını. Aşağıdaki komutlar varsayılan yığın adını kullanır. Yığın adını özelleştirdiyseniz komutları buna göre ayarlayın.

# cd amazon-bedrock-samples/agents/insurance-claim-lifecycle-automation/shell/
# chmod u+x delete-customer-resources.sh
# export STACK_NAME=<YOUR-STACK-NAME>
./delete-customer-resources.sh

Önceki ./delete-customer-resources.sh kabuk komutu, öykünülmüş müşteri kaynakları yığınını ve S3 klasörünü silmek için aşağıdaki AWS CLI komutlarını çalıştırır:

echo "Emptying and Deleting S3 Bucket: $ARTIFACT_BUCKET_NAME"
aws s3 rm s3://${ARTIFACT_BUCKET_NAME} --recursive
aws s3 rb s3://${ARTIFACT_BUCKET_NAME}

echo "Deleting CloudFormation Stack: $STACK_NAME"
aws cloudformation delete-stack --stack-name $STACK_NAME
aws cloudformation describe-stacks --stack-name $STACK_NAME --query "Stacks[0].StackStatus"
aws cloudformation wait stack-delete-complete --stack-name $STACK_NAME

Temsilcinizi ve bilgi tabanınızı silmek için aşağıdaki talimatları izleyin: bir temsilciyi silme ve bilgi tabanını silme, Sırasıyla.

Hususlar

Gösterilen çözüm Amazon Bedrock için Aracıların ve Bilgi Tabanlarının yeteneklerini gösterse de bu çözümün üretime hazır olmadığını anlamak önemlidir. Daha ziyade, kendi özel görevleri ve otomatikleştirilmiş iş akışları için kişiselleştirilmiş aracılar oluşturmayı amaçlayan müşteriler için kavramsal bir kılavuz görevi görür. Üretim dağıtımını hedefleyen müşteriler, aşağıdaki güvenlik faktörlerini akılda tutarak bu başlangıç ​​modelini iyileştirmeli ve uyarlamalıdır:

  • API'lere ve verilere güvenli erişim:
    • API'lere, veritabanlarına ve aracıyla tümleşik diğer sistemlere erişimi kısıtlayın.
    • Yetkisiz erişimi önlemek için erişim kontrolünü, sır yönetimini ve şifrelemeyi kullanın.
  • Giriş doğrulama ve temizleme:
    • Enjeksiyon saldırılarını veya aracının davranışını manipüle etme girişimlerini önlemek için kullanıcı girişlerini doğrulayın ve temizleyin.
    • Giriş kurallarını ve veri doğrulama mekanizmalarını oluşturun.
  • Temsilci yönetimi ve testi için erişim kontrolleri:
    • Aracıyı düzenlemek, test etmek veya yapılandırmak için kullanılan konsollar ve araçlar için uygun erişim kontrollerini uygulayın.
    • Erişimi yetkili geliştiriciler ve test uzmanlarıyla sınırlayın.
  • Altyapı güvenliği:
    • Temel altyapının güvenliğini sağlamak için VPC'ler, alt ağlar, güvenlik grupları, günlük kaydı ve izlemeyle ilgili AWS'nin en iyi güvenlik uygulamalarına bağlı kalın.
  • Temsilci talimatlarının doğrulanması:
    • İstenmeyen davranışları önlemek amacıyla temsilcinin talimatlarını gözden geçirmek ve doğrulamak için titiz bir süreç oluşturun.
  • Test ve denetim:
    • Aracıyı ve entegre bileşenleri iyice test edin.
    • Sorunları tespit etmek ve çözmek için temsilci konuşmalarının denetimini, günlüğe kaydedilmesini ve regresyon testini uygulayın.
  • Bilgi tabanı güvenliği:
    • Kullanıcılar bilgi tabanını genişletebilirse, zehirlenme saldırılarını önlemek için yüklemeleri doğrulayın.

Diğer önemli hususlar için bkz. Amazon Bedrock, Amazon DynamoDB, Amazon Kendra, Amazon Lex ve LangChain ile üretken yapay zeka aracıları oluşturun.

Sonuç

Amazon Bedrock için Aracıları ve Bilgi Tabanlarını kullanan üretken yapay zeka aracılarının uygulanması, kuruluşların operasyonel ve otomasyon yeteneklerinde önemli bir ilerlemeyi temsil ediyor. Bu araçlar yalnızca sigorta talebi yaşam döngüsünü kolaylaştırmakla kalmıyor, aynı zamanda yapay zekanın diğer çeşitli kurumsal alanlarda uygulanmasına da örnek teşkil ediyor. Bu yapay zeka aracıları, görevleri otomatikleştirerek, müşteri hizmetlerini iyileştirerek ve karar verme süreçlerini iyileştirerek, rutin ve karmaşık görevleri verimli bir şekilde ele alırken kuruluşların büyümeye ve yeniliğe odaklanmasını sağlar.

Yapay zekanın hızlı evrimine tanık olmaya devam ederken, Amazon Bedrock için Aracılar ve Bilgi Tabanları gibi araçların iş operasyonlarını dönüştürme potansiyeli çok büyük. Bu teknolojileri kullanan kuruluşlar, gelişmiş verimlilik, müşteri memnuniyeti ve karar alma süreçleriyle belirgin bir rekabet avantajı elde edeceklerdir. Kurumsal veri yönetimi ve operasyonlarının geleceği inkar edilemez bir şekilde daha fazla yapay zeka entegrasyonuna dayanıyor ve Amazon Bedrock bu dönüşümün ön saflarında yer alıyor.

Daha fazla bilgi edinmek için ziyaret Amazon Bedrock Temsilcileri, danışın Amazon Bedrock belgeleri, keşfetmek Community.aws'da üretken yapay zeka alanıve uygulamalı olarak çalışın Amazon Ana Kayası atölyesi.


Yazar Hakkında

Kyle T. BlocksomKyle T. Blocksom Güney Kaliforniya merkezli AWS'de Kıdemli Çözüm Mimarıdır. Kyle'ın tutkusu insanları bir araya getirmek ve müşterilerin sevdiği çözümleri sunmak için teknolojiden yararlanmaktır. İş dışında sörf yapmaktan, yemek yemekten, köpeğiyle güreşmekten ve yeğenlerini şımartmaktan hoşlanıyor.

spot_img

En Son İstihbarat

spot_img