üretken yapay zeka acenteler büyük işletmeler için çok yönlü ve güçlü bir araçtır. Maliyetleri düşürürken ve inovasyonu mümkün kılarken operasyonel verimliliği, müşteri hizmetlerini ve karar almayı geliştirebilirler. Bu aracılar, veri girişi, müşteri destek sorguları ve içerik oluşturma gibi çok çeşitli rutin ve tekrarlanan görevleri otomatikleştirme konusunda uzmandır. Üstelik görevleri daha küçük, yönetilebilir adımlara bölerek, çeşitli eylemleri koordine ederek ve bir kuruluş içindeki süreçlerin verimli bir şekilde yürütülmesini sağlayarak karmaşık, çok adımlı iş akışlarını düzenleyebilirler. Bu, insan kaynakları üzerindeki yükü önemli ölçüde azaltır ve çalışanların daha stratejik ve yaratıcı görevlere odaklanmasına olanak tanır.
Yapay zeka teknolojisi gelişmeye devam ettikçe, üretken yapay zeka aracılarının yeteneklerinin de artması ve müşterilere rekabet avantajı kazanmaları için daha fazla fırsat sunması bekleniyor. Bu evrimin ön saflarında yer alan Amazon Ana KayasıAmazon ve diğer önde gelen yapay zeka şirketlerinin yüksek performanslı temel modellerini (FM'ler) bir API aracılığıyla kullanıma sunan, tam olarak yönetilen bir hizmettir. Amazon Bedrock ile güvenlik, gizlilik ve sorumlu yapay zeka ile üretken yapay zeka uygulamaları oluşturabilir ve ölçeklendirebilirsiniz. Artık kullanabilirsiniz Amazon Bedrock Temsilcileri ve Amazon Bedrock için Bilgi Tabanları doğal dil girişine ve kuruluşunuzun verilerine dayalı olarak eylemleri sorunsuz bir şekilde yürüten özel aracıları yapılandırmak için. Bu yönetilen aracılar, FM'ler, API entegrasyonları, kullanıcı konuşmaları ve verilerinizle yüklenen bilgi kaynakları arasındaki etkileşimleri düzenleyerek orkestra şefi görevi görür.
Bu gönderide, sigorta talebi yaşam döngüsüyle ilişkili görevleri otomatikleştirmek, müşteri hizmetlerini verimli bir şekilde ölçeklendirmek ve iyileştirmek ve iyileştirilmiş bilgi yönetimi yoluyla karar desteğini geliştirmek amacıyla mevcut kurumsal kaynakları geliştirmek için Amazon Bedrock için Temsilcileri ve Bilgi Tabanlarını nasıl kullanabileceğinizi vurgulanır. Amazon Bedrock destekli sigorta acenteniz, yeni talepler oluşturarak, açık talepler için bekleyen belge hatırlatıcıları göndererek, talep kanıtlarını toplayarak ve mevcut talepler ve müşteri bilgi havuzlarında bilgi arayarak insan acentelere yardımcı olabilir.
Çözüme genel bakış
Bu çözümün amacı, sanal asistanlar ve otomasyon görevleri gibi çeşitli ihtiyaçlar için kendi özel aracılarınızı oluşturmanıza olanak tanıyarak müşteriler için bir temel oluşturmaktır. Dağıtım için gereken kod ve kaynaklar şu adreste mevcuttur: amazon-ana kaya-örnekler deposu.
Aşağıdaki demo kaydında Amazon Bedrock işlevlerine yönelik Aracılar ve Bilgi Tabanları ile teknik uygulama ayrıntıları vurgulanmaktadır.
Amazon Bedrock Aracıları ve Bilgi Tabanları aşağıdaki yetenekleri sağlamak için birlikte çalışır:
- Görev orkestrasyonu – Aracılar, doğal dil sorgularını anlamak ve çok adımlı görevleri daha küçük, yürütülebilir adımlara ayırmak için FM'leri kullanır.
- Etkileşimli veri toplama – Temsilciler, kullanıcılardan ek bilgi toplamak için doğal görüşmelere katılır.
- Görevin yerine getirilmesi – Temsilciler, müşteri isteklerini bir dizi akıl yürütme adımı ve aşağıdakilere dayalı olarak karşılık gelen eylemler yoluyla tamamlar: ReAct istemi.
- Sistem entegrasyonu – Temsilciler, belirli eylemleri gerçekleştirmek için entegre şirket sistemlerine API çağrıları yapar.
- veri sorgulama – Bilgi tabanları, tam olarak yönetilen yoluyla doğruluğu ve performansı artırır Alma Artırılmış Nesil (RAG) müşteriye özel veri kaynaklarını kullanır.
- Kaynak ilişkilendirmesi – Aracılar, düşünce zinciri mantığı yoluyla bilgi veya eylemlerin kökenini belirleyerek ve takip ederek kaynak ilişkilendirme gerçekleştirir.
Aşağıdaki şemada çözüm mimarisi gösterilmektedir.
İş akışı aşağıdaki adımlardan oluşur:
- Kullanıcılar aracıya doğal dil girdileri sağlar. Aşağıda bazı örnek istemler verilmiştir:
- Yeni bir hak talebi oluşturun.
- 2s34w-8x talebinin poliçe sahibine bekleyen belgeler hatırlatıcısı gönderin.
- 5t16u-7v iddiasına ilişkin kanıt toplayın.
- 3b45c-9d talebi için toplam talep tutarı nedir?
- Aynı hak talebi için toplam onarım tahmini nedir?
- Kasko primimi hangi faktörler belirliyor?
- Araba sigorta oranlarımı nasıl düşürebilirim?
- Hangi hak talepleri açık durumdadır?
- Açık talepleri olan tüm poliçe sahiplerine hatırlatıcılar gönderin.
- Ön işleme sırasında aracı, kullanıcı girişini doğrular, bağlamsallaştırır ve kategorilere ayırır. Kullanıcı girişi (veya görevi), sohbet geçmişi ve talimatlar ve oturum sırasında belirtilen temel FM kullanılarak temsilci tarafından yorumlanır. temsilci oluşturma. Temsilcinin talimatları, temsilcinin amaçlanan eylemlerini özetleyen açıklayıcı yönergelerdir. Ayrıca isteğe bağlı olarak yapılandırabilirsiniz gelişmiş istemlerBu, daha ayrıntılı yapılandırmalar kullanarak ve birkaç adımlık komut istemi için manuel olarak seçilmiş örnekler sunarak aracınızın hassasiyetini artırmanıza olanak tanır. Bu yöntem, belirli bir görevle ilişkili etiketli örnekler sağlayarak modelin performansını artırmanıza olanak tanır.
- Eylem grupları OpenAPI şeması, içinde depolanan JSON dosyaları olarak tanımlanan bir dizi API ve karşılık gelen iş mantığıdır. Amazon Basit Depolama Hizmeti (Amazon S3). Şema, aracının her bir API'nin işlevi etrafında akıl yürütmesine olanak tanır. Her eylem grubu, iş mantığının çalıştırıldığı bir veya daha fazla API yolu belirtebilir. AWS Lambda eylem grubuyla ilişkili işlev.
- Amazon Bedrock için Bilgi Tabanları, aracıya verilerinize erişim sağlamak için tam olarak yönetilen RAG sağlar. Öncelikle aracıya bilgi tabanınızı ne zaman kullanacağını bildiren bir açıklama belirterek bilgi tabanını yapılandırırsınız. Daha sonra bilgi tabanını Amazon S3 veri kaynağınıza yönlendirirsiniz. Son olarak, bir yerleştirme modeli belirlersiniz ve mevcut vektör mağazanızı kullanmayı veya Amazon Bedrock'un vektör mağazasını sizin adınıza oluşturmasına izin vermeyi seçersiniz. Yapılandırıldıktan sonra her veri kaynağı senkronizasyonu aracının kullanıcıya bilgi göndermek veya sonraki FM istemlerini artırmak için kullanabileceği verilerinizin vektör yerleştirmelerini oluşturur.
- Orkestrasyon sırasında aracı, temel FM için temel istemi artırmak amacıyla kullanılabilecek bir gözlem oluşturmak için eylem grubu API çağrılarının ve bilgi tabanı sorgularının gerekli olduğu mantıksal adımlarla bir mantık geliştirir. Bu ReAct tarzı yönlendirme, FM'nin etkinleştirilmesi için girdi görevi görür ve daha sonra kullanıcının görevini tamamlamak için en uygun eylem dizisini tahmin eder.
- İşlem sonrası sırasında, tüm orkestrasyon yinelemeleri tamamlandıktan sonra aracı, son bir yanıtı düzenler. Son işleme varsayılan olarak devre dışıdır.
Aşağıdaki bölümlerde, uygulama öncesi adımlar ve test ve doğrulama dahil olmak üzere çözümü dağıtmaya yönelik temel adımları tartışıyoruz.
AWS CloudFormation ile çözüm kaynakları oluşturun
Temsilcinizi ve bilgi tabanınızı oluşturmadan önce, müşterilerin kullandığı mevcut kaynakları yakından yansıtan simüle edilmiş bir ortam oluşturmak önemlidir. Amazon Bedrock Aracıları ve Bilgi Tabanları, Lambda tarafından sağlanan iş mantığını ve Amazon S3'te depolanan müşteri veri havuzlarını kullanarak bu kaynakları temel alacak şekilde tasarlanmıştır. Bu temel uyum, aracınızın ve bilgi tabanı çözümlerinizin yerleşik altyapınızla kusursuz bir entegrasyonunu sağlar.
Temsilci tarafından kullanılan mevcut müşteri kaynaklarını taklit etmek için bu çözüm, create-müşteri-kaynakları.sh Parametreli hale getirilmiş olanın sağlanmasını otomatikleştirmek için kabuk komut dosyası AWS CloudFormation şablon, ana kaya-müşteri-kaynakları.yml, aşağıdaki kaynakları dağıtmak için:
- An Amazon DinamoDB sentetik ile doldurulmuş masa talep verileri.
- Talep oluşturmak, açık durum talepleri için bekleyen belge hatırlatıcılarını göndermek ve yeni ve mevcut taleplere ilişkin kanıt toplamak için müşterinin iş mantığını temsil eden üç Lambda işlevi.
- Önceki Lambda işlevlerine ilişkin OpenAPI şema formatındaki API belgelerini ve onarım tahminlerini, talep tutarlarını, şirket SSS'lerini ve bizim olarak kullanılacak gerekli talep belgesi açıklamalarını içeren bir S3 klasörü. bilgi tabanı veri kaynağı varlıkları.
- An Amazon Basit Bildirim Servisi (Amazon SNS) Talep durumu ve bekleyen işlemlere ilişkin e-posta uyarısı için poliçe sahiplerinin e-postalarının abone olduğu konu.
- AWS Kimlik ve Erişim Yönetimi Önceki kaynaklar için (IAM) izinleri.
AWS CloudFormation, yığın parametrelerini şablonda sağlanan varsayılan değerlerle önceden doldurur. Alternatif giriş değerleri sağlamak için parametreleri, belgede başvurulan ortam değişkenleri olarak belirleyebilirsiniz. ParameterKey=<ParameterKey>,ParameterValue=<Value>
aşağıdaki kabuk betiğindeki çiftler aws cloudformation create-stack
Komut.
Kaynaklarınızı sağlamak için aşağıdaki adımları tamamlayın:
- Yerel bir kopyasını oluşturun
amazon-bedrock-samples
kullanarak depogit clone
: - Kabuk betiğini çalıştırmadan önce klonladığınız dizine gidin.
amazon-bedrock-samples
depoyu açın ve kabuk komut dosyası izinlerini yürütülebilir olarak değiştirin: - CloudFormation yığın adınızı, SNS e-postanızı ve kanıt yükleme URL'si ortam değişkenlerinizi ayarlayın. SNS e-postası poliçe sahibi bildirimleri için kullanılacak ve kanıt yükleme URL'si, talep kanıtlarını yüklemek üzere poliçe sahipleriyle paylaşılacaktır. sigorta talepleri işleme örneği kanıt yükleme URL'si için örnek bir ön uç sağlar.
- Çalıştır
create-customer-resources.sh
içinde tanımlanan öykünülmüş müşteri kaynaklarını dağıtmak için kabuk komut dosyasıbedrock-insurance-agent.yml
CloudFormation şablonu. Bunlar, aracının ve bilgi tabanının üzerine inşa edileceği kaynaklardır.
Önceki source ./create-customer-resources.sh
Shell komutu aşağıdakileri çalıştırır AWS Komut Satırı Arayüzü (AWS CLI) öykünülmüş müşteri kaynakları yığınını dağıtma komutları:
Bir bilgi tabanı oluşturun
Amazon Bedrock için Bilgi Tabanları, FM'ler tarafından oluşturulan yanıtları geliştirmek için müşteri veri depolarından yararlanan bir teknik olan RAG'ı kullanır. Bilgi tabanları, aracıların, yoğun yönetici yükü olmadan mevcut müşteri veri havuzlarına erişmesine olanak tanır. Bir bilgi tabanını verilerinize bağlamak için S3 grubunu belirtirsiniz. veri kaynağı. Bilgi tabanları sayesinde uygulamalar, zenginleştirilmiş bağlamsal bilgiler elde ederek tam olarak yönetilen bir RAG çözümü aracılığıyla geliştirmeyi kolaylaştırır. Bu düzeyde bir soyutlama, verilerinizi aracı işlevselliğine dahil etme çabasını en aza indirerek pazara sunma süresini hızlandırır ve özel verileri kullanmak için modelin sürekli olarak yeniden eğitilmesi gerekliliğini ortadan kaldırarak maliyeti optimize eder.
Aşağıdaki diyagram, yerleştirme modeline sahip bir bilgi tabanının mimarisini göstermektedir.
Bilgi tabanı işlevselliği iki temel süreç aracılığıyla tanımlanır: ön işleme (1-3. Adımlar) ve çalışma zamanı (4-7. Adımlar):
- Belgeler yönetilebilir bölümlere ayırmaya (parçalara ayırma) tabi tutulur.
- Bu parçalar, Amazon Bedrock yerleştirme modeli kullanılarak yerleştirmelere dönüştürülür.
- Yerleştirmeler, kullanıcı sorguları ile veri kaynağı metni arasında anlamsal benzerlik karşılaştırmalarına olanak tanıyan bir vektör dizini oluşturmak için kullanılır.
- Çalışma zamanı sırasında kullanıcılar metin girişlerini bir bilgi istemi olarak sağlarlar.
- Giriş metni, Amazon Bedrock yerleştirme modeli kullanılarak vektörlere dönüştürülür.
- Vektör dizini, kullanıcının sorgusuyla ilgili parçalar için sorgulanır ve kullanıcı istemi, vektör dizinden alınan ek bağlamla zenginleştirilir.
- Genişletilmiş istem, ek bağlamla birleştiğinde kullanıcı için bir yanıt oluşturmak için kullanılır.
Bir bilgi tabanı oluşturmak için aşağıdaki adımları tamamlayın:
- Amazon Bedrock konsolunda şunu seçin: Bilgi tabanı Gezinti bölmesinde.
- Klinik Bilgi tabanı oluştur.
- Altında Bilgi tabanı ayrıntılarını sağlayın, tüm varsayılan ayarları bırakarak bir ad ve isteğe bağlı bir açıklama girin. Bu yazı için açıklamayı giriyoruz:
Use to retrieve claim amount and repair estimate information for claim ID, or answer general insurance questions about things like coverage, premium, policy, rate, deductible, accident, and documents.
- Altında Veri kaynağını ayarla, isim girin.
- Klinik S3'e göz atın Seçin ve
knowledge-base-assets
daha önce dağıttığınız veri kaynağı S3 paketinin klasörü (<YOUR-STACK-NAME>-customer-resources/agent/knowledge-base-assets/
). - Altında Gömme modelini seçin ve vektör deposunu yapılandırın, seçmek Titan Gömmeleri G1 – Metin ve diğer varsayılan ayarları bırakın. Bir Amazon OpenSearch Sunucusuz Toplamak sizin için yaratılacak. Bu vektör deposu, bilgi tabanı ön işleme yerleştirmelerinin depolandığı ve daha sonra sorgular ve veri kaynağı metni arasındaki anlamsal benzerlik araması için kullanıldığı yerdir.
- Altında İnceleyin ve oluşturun, yapılandırma ayarlarınızı onaylayın ve ardından Bilgi tabanı oluştur.
- Bilgi tabanınız oluşturulduktan sonra, veri kaynağınızı senkronize etme seçeneğinin yer aldığı yeşil bir "başarıyla oluşturuldu" başlığı görüntülenecektir. Seçmek Senkronizasyon Veri kaynağı senkronizasyonunu başlatmak için.
- Amazon Bedrock konsolunda yeni oluşturduğunuz bilgi tabanına gidin ve ardından bilgi tabanı kimliğini not edin. Bilgi tabanına genel bakış.
- Bilgi tabanınız hâlâ seçili durumdayken, aşağıda listelenen bilgi tabanı veri kaynağınızı seçin. Veri kaynağı, ardından altındaki veri kaynağı kimliğini not edin Veri kaynağına genel bakış.
Bilgi tabanı kimliği ve veri kaynağı kimliği, aracınız için Streamlit web kullanıcı arayüzünü dağıttığınızda daha sonraki bir adımda ortam değişkenleri olarak kullanılır.
Temsilci oluştur
Aracılar, birkaç temel bileşenden oluşan bir derleme zamanı çalıştırma süreci aracılığıyla çalışır:
- Temel modeli – Kullanıcılar, orkestrasyon süreci sırasında kullanıcı girdilerini yorumlama, yanıt oluşturma ve sonraki eylemleri yönlendirme konusunda aracıya rehberlik eden bir FM seçer.
- talimatlar – Kullanıcılar, aracının amaçlanan işlevselliğini özetleyen ayrıntılı talimatlar hazırlar. İsteğe bağlı gelişmiş istemler, çıktıları ayrıştırmak için Lambda işlevlerini birleştirerek her düzenleme adımında özelleştirmeye olanak tanır.
- (İsteğe bağlı) Eylem grupları – Kullanıcılar, görev çalıştırmaları için API'leri ve API giriş ve çıkışlarını işlemek için Lambda işlevlerini tanımlamak üzere bir OpenAPI şeması kullanarak aracıya yönelik eylemleri tanımlar.
- (İsteğe bağlı) Bilgi tabanları – Kullanıcılar, aracıları bilgi tabanlarıyla ilişkilendirerek yanıt oluşturma ve düzenleme adımları için ek bağlama erişim sağlayabilir.
Bu örnek çözümdeki aracı, Amazon Bedrock'ta bir Anthropic Claude V2.1 FM, bir dizi talimat, üç eylem grubu ve bir bilgi tabanı kullanıyor.
Bir aracı oluşturmak için aşağıdaki adımları tamamlayın:
- Amazon Bedrock konsolunda şunu seçin: Danışmanlar Gezinti bölmesinde.
- Klinik Temsilci oluştur.
- Altında Temsilci ayrıntılarını sağlayın, diğer tüm varsayılan ayarları bırakarak bir aracı adı ve isteğe bağlı açıklama girin.
- Altında Model seç, seçmek Antropik Claude V2.1 ve temsilci için aşağıdaki talimatları belirtin:
You are an insurance agent that has access to domain-specific insurance knowledge. You can create new insurance claims, send pending document reminders to policy holders with open claims, and gather claim evidence. You can also retrieve claim amount and repair estimate information for a specific claim ID or answer general insurance questions about things like coverage, premium, policy, rate, deductible, accident, documents, resolution, and condition. You can answer internal questions about things like which steps an agent should follow and the company's internal processes. You can respond to questions about multiple claim IDs within a single conversation
- Klinik Sonraki.
- Altında Eylem grupları ekle, ilk eylem grubunuzu ekleyin:
- İçin Eylem grubu adını girin, girmek
create-claim
. - İçin Açıklama, girmek
Use this action group to create an insurance claim
- İçin Lambda işlevini seçin, seçmek
<YOUR-STACK-NAME>-CreateClaimFunction
. - İçin API şemasını seçin, seçmek S3'e göz atın, daha önce oluşturulan paketi seçin (
<YOUR-STACK-NAME>-customer-resources
), ardındanagent/api-schema/create_claim.json
.
- İçin Eylem grubu adını girin, girmek
- İkinci bir eylem grubu oluşturun:
- İçin Eylem grubu adını girin, girmek
gather-evidence
. - İçin Açıklama, girmek
Use this action group to send the user a URL for evidence upload on open status claims with pending documents. Return the documentUploadUrl to the user
- İçin Lambda işlevini seçin, seçmek
<YOUR-STACK-NAME>-GatherEvidenceFunction
. - İçin API şemasını seçin, seçmek S3'e göz atın, daha önce oluşturulan paketi seçin ve ardından
agent/api-schema/gather_evidence.json
.
- İçin Eylem grubu adını girin, girmek
- Üçüncü bir eylem grubu oluşturun:
- İçin Eylem grubu adını girin, girmek
send-reminder
. - İçin Açıklama, girmek
Use this action group to check claim status, identify missing or pending documents, and send reminders to policy holders
- İçin Lambda işlevini seçin, seçmek
<YOUR-STACK-NAME>-SendReminderFunction
. - İçin API şemasını seçin, seçmek S3'e göz atın, daha önce oluşturulan paketi seçin ve ardından
agent/api-schema/send_reminder.json
.
- İçin Eylem grubu adını girin, girmek
- Klinik Sonraki.
- İçin Bilgi tabanını seçin, daha önce oluşturduğunuz bilgi tabanını seçin (
claims-knowledge-base
). - İçin Temsilci için bilgi tabanı talimatları, aşağıdakileri girin:
Use to retrieve claim amount and repair estimate information for claim ID, or answer general insurance questions about things like coverage, premium, policy, rate, deductible, accident, and documents
- Klinik Sonraki.
- Altında İnceleyin ve oluşturun, yapılandırma ayarlarınızı onaylayın ve ardından Temsilci oluştur.
Temsilciniz oluşturulduktan sonra yeşil bir "başarıyla oluşturuldu" banner'ını göreceksiniz.
Test ve doğrulama
Aşağıdaki test prosedürü, aracının yeni talepler oluşturmak, açık talepler için bekleyen belge hatırlatıcıları göndermek, talep kanıtlarını toplamak ve mevcut talepler ve müşteri bilgi havuzları genelinde bilgi aramak için kullanıcı amaçlarını doğru bir şekilde tanımladığını ve anladığını doğrulamayı amaçlamaktadır. Yanıt doğruluğu, Amazon Bedrock için Temsilciler ve Bilgi Tabanları tarafından oluşturulan yanıtların alaka düzeyi, tutarlılığı ve insana benzer doğası değerlendirilerek belirlenir.
Değerlendirme ölçütleri ve değerlendirme tekniği
Kullanıcı girişi ve aracı talimat doğrulaması aşağıdakileri içerir:
- Ön İşleme – Temsilcinin yorumunu, anlayışını ve çeşitli kullanıcı girdilerine yanıt verme yeteneğini değerlendirmek için örnek istemleri kullanın. Kullanıcı girişini doğru bir şekilde doğrulamak, bağlamsallaştırmak ve kategorilere ayırmak için aracının yapılandırılmış talimatlara bağlılığını doğrulayın.
- orkestrasyon – FM için temel istemi geliştirmek amacıyla eylem grubu API çağrıları ve bilgi tabanı sorguları için aracının izlediği mantıksal adımları (örneğin, "İzleme") değerlendirin.
- Rötuş – Doğruluk ve alakadan emin olmak için düzenleme yinelemelerinden sonra aracı tarafından oluşturulan son yanıtları gözden geçirin. Son işleme varsayılan olarak etkin değildir ve bu nedenle temsilcimizin izlemesine dahil edilmez.
Eylem grubu değerlendirmesi aşağıdakileri içerir:
- API şema doğrulaması – OpenAPI şemasının (Amazon S3'te depolanan JSON dosyaları olarak tanımlanır), aracının her bir API'nin amacına ilişkin muhakemesini etkili bir şekilde yönlendirdiğini doğrulayın.
- İş mantığının uygulanması – Eylem grubuyla bağlantılı Lambda işlevleri aracılığıyla API yollarıyla ilişkili iş mantığının uygulanmasını test edin.
Bilgi tabanı değerlendirmesi aşağıdakileri içerir:
- Yapılandırma doğrulaması – Bilgi tabanı talimatlarının aracıyı verilere ne zaman erişeceği konusunda doğru şekilde yönlendirdiğini doğrulayın.
- S3 veri kaynağı entegrasyonu – Aracının belirtilen S3 veri kaynağında depolanan verilere erişme ve bu verileri kullanma becerisini doğrulayın.
Uçtan uca test aşağıdakileri içerir:
- Entegre iş akışı – Gerçek dünya senaryolarını simüle etmek için hem eylem gruplarını hem de bilgi tabanlarını içeren kapsamlı testler gerçekleştirin.
- Yanıt kalitesi değerlendirmesi – Temsilcinin çeşitli bağlamlarda ve senaryolarda verdiği yanıtların genel doğruluğunu, uygunluğunu ve tutarlılığını değerlendirin.
Bilgi tabanını test edin
Amazon Bedrock'ta bilgi tabanınızı kurduktan sonra, bir aracıyla entegre etmeden önce yanıtlarını değerlendirmek için davranışını doğrudan test edebilirsiniz. Bu test süreci, bilgi tabanının performansını değerlendirmenize, yanıtları incelemenize ve bilgilerin alındığı kaynak parçalarını keşfederek sorun gidermenize olanak sağlar. Aşağıdaki adımları tamamlayın:
- Amazon Bedrock konsolunda şunu seçin: Bilgi tabanı Gezinti bölmesinde.
- Test etmek istediğiniz bilgi tabanını seçin ve ardından test Bir sohbet penceresini genişletmek için
- Test penceresinde yanıt oluşturmak için temel modelinizi seçin.
- Aşağıdaki örnek sorguları ve diğer girişleri kullanarak bilgi tabanınızı test edin:
- Talep ID 2s34w-8x için onarım tahmininin tanısı nedir?
- Aynı iddianın çözüm ve onarım tahmini nedir?
- Kaza sonrasında sürücü ne yapmalıdır?
- Kaza raporu ve görselleri için neler önerilir?
- Muafiyet nedir ve nasıl çalışır?
Sohbet penceresinde yanıt oluşturma ve doğrudan alıntıları döndürme arasında geçiş yapabilirsiniz ve sağlanan simgeleri kullanarak sohbet penceresini temizleme veya tüm çıktıyı kopyalama seçeneğiniz vardır.
Bilgi tabanı yanıtlarını ve kaynak parçalarını incelemek için ilgili dipnotu seçebilir veya Sonuç ayrıntılarını göster. Parça metnini aramanıza, kopyalamanıza ve S3 veri kaynağına gitmenize olanak tanıyan bir kaynak parça penceresi görünecektir.
Temsilciyi test edin
Bilgi tabanınızın başarılı bir şekilde test edilmesinin ardından bir sonraki geliştirme aşaması, aracınızın işlevselliğinin hazırlanmasını ve test edilmesini içerir. Aracıyı hazırlamak, en son değişiklikleri paketlemeyi içerirken test etme, aracının davranışıyla etkileşimde bulunmak ve onu değerlendirmek için kritik bir fırsat sağlar. Bu süreç aracılığıyla aracı yeteneklerini geliştirebilir, verimliliğini artırabilir ve olası sorunları veya optimum performans için gerekli iyileştirmeleri ele alabilirsiniz. Aşağıdaki adımları tamamlayın:
- Amazon Bedrock konsolunda şunu seçin: Danışmanlar Gezinti bölmesinde.
- Temsilcinizi seçin ve temsilci kimliğini not edin.
Aracınız için Streamlit web kullanıcı arayüzünü dağıttığınızda daha sonraki bir adımda aracı kimliğini ortam değişkeni olarak kullanırsınız. - Senin için gidin Çalışma taslağı. Başlangıçta, çalışan bir taslağınız ve bir varsayılanınız var.
TestAlias
bu taslağa işaret ediyor. Çalışma taslağı yinelemeli geliştirmeye izin verir. - Klinik Hazırlamak aracıyı test etmeden önce en son değişikliklerle paketlemek için. En son yapılandırmalarla test yaptığınızı doğrulamak için aracının son hazırlanma süresini düzenli olarak kontrol etmelisiniz.
- Test penceresine aracının çalışma taslak konsolundaki herhangi bir sayfadan aşağıdakileri seçerek erişin: test veya sol ok simgesini seçin.
- Test penceresinde test için bir takma ad ve sürümünü seçin. Bu yazı için şunu kullanıyoruz:
TestAlias
Temsilcinizin taslak sürümünü çağırmak için. Aracı hazır değilse test penceresinde bir bilgi istemi görüntülenir. - Aşağıdaki örnek istemleri ve diğer girişleri kullanarak aracınızı test edin:
- Yeni bir hak talebi oluşturun.
- 2s34w-8x talebinin poliçe sahibine bekleyen belgeler hatırlatıcısı gönderin.
- 5t16u-7v iddiasına ilişkin kanıt toplayın.
- 3b45c-9d talebi için toplam talep tutarı nedir?
- Aynı hak talebi için toplam onarım tahmini nedir?
- Kasko primimi hangi faktörler belirliyor?
- Araba sigorta oranlarımı nasıl düşürebilirim?
- Hangi hak talepleri açık durumdadır?
- Açık talepleri olan tüm poliçe sahiplerine hatırlatıcılar gönderin.
Seçtiğinizden emin olun Hazırlamak aracıyı test etmeden önce bunları uygulamak için değişiklikler yaptıktan sonra.
Aşağıdaki test görüşmesi örneği, aracının, bir müşterinin Amazon DynamoDB tablosunu sorgulayan ve Amazon Simple Notification Service kullanarak müşteriye bildirimler gönderen AWS Lambda iş mantığıyla eylem grubu API'lerini çağırma yeteneğini vurgulamaktadır. Aynı konuşma dizisi, kullanıcıya talep tutarı ve SSS belgeleri gibi müşterinin yetkili veri kaynaklarını kullanarak yanıtlar sağlamak için aracı ve bilgi tabanı entegrasyonunu gösterir.
Aracı analizi ve hata ayıklama araçları
Temsilci yanıt izleri, temsilcinin her aşamada karar verme sürecini anlamaya yardımcı olacak, hata ayıklamayı kolaylaştıracak ve iyileştirme alanlarına ilişkin öngörüler sağlayacak temel bilgileri içerir. ModelInvocationInput
Her izdeki nesne, temsilcinin karar verme sürecinde kullanılan ayrıntılı yapılandırmaları ve ayarları sağlayarak müşterilerin aracının etkinliğini analiz etmesine ve geliştirmesine olanak tanır.
Temsilciniz kullanıcı girişini aşağıdaki kategorilerden birine göre sıralayacaktır:
- Kategori A – Kurgusal senaryolar olsa bile kötü niyetli veya zararlı girdiler.
- Kategori B – Kullanıcının, işlev çağıran aracımızın hangi işlevler, API'ler veya talimatlar sağladığı hakkında bilgi almaya çalıştığı girdiler veya işlev çağıran aracımızın veya sizin davranışlarınızı veya talimatlarınızı manipüle etmeye çalışan girdiler.
- Kategori C – İşlev çağırma aracımızın yanıtlayamayacağı veya yalnızca kendisine sağlanan işlevlerin kullanılmasıyla ilgili yararlı bilgiler sağlayamayacağı sorular.
- Kategori D – Yalnızca kendisine sağlanan işlevleri ve içeriden gelen argümanları kullanarak işlev çağırma aracımız tarafından yanıtlanabilecek veya desteklenebilecek sorular
conversation_history
veya kullanarak toplayabileceği ilgili argümanlaraskuser
fonksiyonu. - Kategori E – Soru olmayan, bunun yerine işlev çağıran aracının kullanıcıya sorduğu bir soruya verilen yanıtlar olan girdiler. Girişler yalnızca şu durumlarda bu kategori için uygundur:
askuser
işlev, işlev çağıran aracının konuşmada çağırdığı son işlevdir. Bunu aşağıdakileri okuyarak kontrol edebilirsiniz:conversation_history
.
Klinik İzi göster Bilgi tabanı ve eylem grubu kullanımı da dahil olmak üzere aracının yapılandırmalarını ve akıl yürütme sürecini görüntülemek için bir yanıt altında. Ayrıntılı analiz için izler genişletilebilir veya daraltılabilir. Kaynaklı bilgi içeren yanıtlar ayrıca alıntılar için dipnotlar içerir.
Aşağıdaki eylem grubu izleme örneğinde aracı, kullanıcı girişini create-claim
eylem grubu createClaim
ön işleme sırasında işlev görür. Aracı, aracı talimatlarına, eylem grubu açıklamasına ve OpenAPI şemasına dayalı olarak bu işleve ilişkin bir anlayışa sahiptir. Bu durumda iki adım olan düzenleme süreci sırasında, aracı, createClaim
işlevi görür ve yeni oluşturulan talep kimliğini ve bekleyen belgelerin listesini içeren bir yanıt alır.
Aşağıdaki bilgi tabanı izleme örneğinde, aracı, ön işleme sırasında kullanıcı girişini Kategori D ile eşleştirir; bu, aracının mevcut işlevlerinden birinin yanıt sağlayabilmesi gerektiği anlamına gelir. Düzenleme boyunca aracı, bilgi tabanını arar, yerleştirmeleri kullanarak ilgili parçaları çeker ve nihai bir yanıt oluşturmak için bu metni temel modele aktarır.
Temsilciniz için Streamlit web kullanıcı arayüzünü dağıtın
Temsilcinizin ve bilgi tabanınızın performansından memnun olduğunuzda, onların yeteneklerini ürünleştirmeye hazır olursunuz. Kullanırız Akışlı Bu çözümde, bir üretim uygulamasını taklit etmeyi amaçlayan örnek bir ön uç başlatmak için. Streamlit, ön uç uygulamalar oluşturma sürecini kolaylaştırmak ve basitleştirmek için tasarlanmış bir Python kütüphanesidir. Uygulamamız iki özellik sunmaktadır:
- Temsilci istemi girişi – Kullanıcıların şunları yapmasına izin verir: acenteyi çağır kendi görev girişlerini kullanarak.
- Bilgi tabanı dosyası yükleme – Kullanıcının yerel dosyalarını bilgi tabanı için veri kaynağı olarak kullanılan S3 klasörüne yüklemesine olanak tanır. Dosya yüklendikten sonra uygulama bir alım işi başlatır Bilgi tabanı veri kaynağını senkronize etmek için.
Streamlit uygulama bağımlılıklarımızı izole etmek ve dağıtım kolaylığı sağlamak için setup-streamlit-env.sh Gereksinimlerin yüklü olduğu sanal bir Python ortamı oluşturmak için kabuk betiği. Aşağıdaki adımları tamamlayın:
- Kabuk betiğini çalıştırmadan önce klonladığınız dizine gidin.
amazon-bedrock-samples
deposunu açın ve Streamlit kabuk komut dosyası izinlerini yürütülebilir olarak değiştirin:
- Sanal Python ortamını gerekli bağımlılıklarla etkinleştirmek için kabuk betiğini çalıştırın:
- Amazon Bedrock temsilci kimliğinizi, temsilci takma ad kimliğinizi, bilgi tabanı kimliğinizi, veri kaynağı kimliğinizi, bilgi tabanı grubu adınızı ve AWS Bölgesi ortam değişkenlerinizi ayarlayın:
- Streamlit uygulamanızı çalıştırın ve yerel web tarayıcınızda test etmeye başlayın:
Temizlemek
AWS hesabınızda ücretlendirme yapılmasını önlemek için çözümün sağlanan kaynaklarını temizleyin
The delete-customer-resources.sh kabuk betiği, çözümün S3 klasörünü boşaltıp siler ve başlangıçta sağlanan kaynakları siler. bedrock-customer-resources.yml
CloudFormasyon yığını. Aşağıdaki komutlar varsayılan yığın adını kullanır. Yığın adını özelleştirdiyseniz komutları buna göre ayarlayın.
Önceki ./delete-customer-resources.sh
kabuk komutu, öykünülmüş müşteri kaynakları yığınını ve S3 klasörünü silmek için aşağıdaki AWS CLI komutlarını çalıştırır:
Temsilcinizi ve bilgi tabanınızı silmek için aşağıdaki talimatları izleyin: bir temsilciyi silme ve bilgi tabanını silme, Sırasıyla.
Hususlar
Gösterilen çözüm Amazon Bedrock için Aracıların ve Bilgi Tabanlarının yeteneklerini gösterse de bu çözümün üretime hazır olmadığını anlamak önemlidir. Daha ziyade, kendi özel görevleri ve otomatikleştirilmiş iş akışları için kişiselleştirilmiş aracılar oluşturmayı amaçlayan müşteriler için kavramsal bir kılavuz görevi görür. Üretim dağıtımını hedefleyen müşteriler, aşağıdaki güvenlik faktörlerini akılda tutarak bu başlangıç modelini iyileştirmeli ve uyarlamalıdır:
- API'lere ve verilere güvenli erişim:
- API'lere, veritabanlarına ve aracıyla tümleşik diğer sistemlere erişimi kısıtlayın.
- Yetkisiz erişimi önlemek için erişim kontrolünü, sır yönetimini ve şifrelemeyi kullanın.
- Giriş doğrulama ve temizleme:
- Enjeksiyon saldırılarını veya aracının davranışını manipüle etme girişimlerini önlemek için kullanıcı girişlerini doğrulayın ve temizleyin.
- Giriş kurallarını ve veri doğrulama mekanizmalarını oluşturun.
- Temsilci yönetimi ve testi için erişim kontrolleri:
- Aracıyı düzenlemek, test etmek veya yapılandırmak için kullanılan konsollar ve araçlar için uygun erişim kontrollerini uygulayın.
- Erişimi yetkili geliştiriciler ve test uzmanlarıyla sınırlayın.
- Altyapı güvenliği:
- Temel altyapının güvenliğini sağlamak için VPC'ler, alt ağlar, güvenlik grupları, günlük kaydı ve izlemeyle ilgili AWS'nin en iyi güvenlik uygulamalarına bağlı kalın.
- Temsilci talimatlarının doğrulanması:
- İstenmeyen davranışları önlemek amacıyla temsilcinin talimatlarını gözden geçirmek ve doğrulamak için titiz bir süreç oluşturun.
- Test ve denetim:
- Aracıyı ve entegre bileşenleri iyice test edin.
- Sorunları tespit etmek ve çözmek için temsilci konuşmalarının denetimini, günlüğe kaydedilmesini ve regresyon testini uygulayın.
- Bilgi tabanı güvenliği:
- Kullanıcılar bilgi tabanını genişletebilirse, zehirlenme saldırılarını önlemek için yüklemeleri doğrulayın.
Diğer önemli hususlar için bkz. Amazon Bedrock, Amazon DynamoDB, Amazon Kendra, Amazon Lex ve LangChain ile üretken yapay zeka aracıları oluşturun.
Sonuç
Amazon Bedrock için Aracıları ve Bilgi Tabanlarını kullanan üretken yapay zeka aracılarının uygulanması, kuruluşların operasyonel ve otomasyon yeteneklerinde önemli bir ilerlemeyi temsil ediyor. Bu araçlar yalnızca sigorta talebi yaşam döngüsünü kolaylaştırmakla kalmıyor, aynı zamanda yapay zekanın diğer çeşitli kurumsal alanlarda uygulanmasına da örnek teşkil ediyor. Bu yapay zeka aracıları, görevleri otomatikleştirerek, müşteri hizmetlerini iyileştirerek ve karar verme süreçlerini iyileştirerek, rutin ve karmaşık görevleri verimli bir şekilde ele alırken kuruluşların büyümeye ve yeniliğe odaklanmasını sağlar.
Yapay zekanın hızlı evrimine tanık olmaya devam ederken, Amazon Bedrock için Aracılar ve Bilgi Tabanları gibi araçların iş operasyonlarını dönüştürme potansiyeli çok büyük. Bu teknolojileri kullanan kuruluşlar, gelişmiş verimlilik, müşteri memnuniyeti ve karar alma süreçleriyle belirgin bir rekabet avantajı elde edeceklerdir. Kurumsal veri yönetimi ve operasyonlarının geleceği inkar edilemez bir şekilde daha fazla yapay zeka entegrasyonuna dayanıyor ve Amazon Bedrock bu dönüşümün ön saflarında yer alıyor.
Daha fazla bilgi edinmek için ziyaret Amazon Bedrock Temsilcileri, danışın Amazon Bedrock belgeleri, keşfetmek Community.aws'da üretken yapay zeka alanıve uygulamalı olarak çalışın Amazon Ana Kayası atölyesi.
Yazar Hakkında
Kyle T. Blocksom Güney Kaliforniya merkezli AWS'de Kıdemli Çözüm Mimarıdır. Kyle'ın tutkusu insanları bir araya getirmek ve müşterilerin sevdiği çözümleri sunmak için teknolojiden yararlanmaktır. İş dışında sörf yapmaktan, yemek yemekten, köpeğiyle güreşmekten ve yeğenlerini şımartmaktan hoşlanıyor.
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://aws.amazon.com/blogs/machine-learning/automate-the-insurance-claim-lifecycle-using-agents-and-knowledge-bases-for-amazon-bedrock/