Bu yazı Accenture'dan Ilan Geller ve Shuyu Yang ile birlikte yazılmıştır.

Günümüzde şirketler, bilgi ve bilgi tabanlarını hem iç hem de dış iş operasyonları için kullanma konusunda büyük zorluklarla karşı karşıyadır. Sürekli gelişen operasyonlar, süreçler, politikalar ve uyumluluk gereklilikleri nedeniyle çalışanların ve müşterilerin güncel kalması son derece zor olabilir. Aynı zamanda, bu içeriğin çoğunun yapısal olmayan yapısı, geleneksel aramayı kullanarak yanıt bulmayı zaman alıcı hale getiriyor.

Şirket içinde çalışanlar işlerini yapmak için ihtiyaç duydukları bilgileri bulmak için genellikle sayısız saatler harcayabilir, bu da hayal kırıklığına ve üretkenliğin azalmasına neden olabilir. Cevap bulamadıklarında ise sorunları büyütmek zorunda kalıyorlar veya tam bir bağlam olmadan kararlar almak zorunda kalıyorlar ki bu da risk yaratabilir.

Dışarıdan bakıldığında, müşteriler aradıkları bilgiyi bulmayı da sinir bozucu bulabilirler. Kurumsal bilgi tabanları zamanla müşteri deneyimini geliştirmiş olsa da, hala hantal ve kullanımı zor olabilir. İster ürünle ilgili bir soruya yanıt ararken ister çalışma saatleri ve konumları hakkında bilgiye ihtiyaç duyuyor olun, kötü bir deneyim hayal kırıklığına veya daha kötüsü müşterinin ayrılmasına neden olabilir.

Her iki durumda da, bilgi yönetimi daha karmaşık hale geldikçe, üretken yapay zeka, işletmelerin insanları gerçekleştirmeleri ve yenilik yapmaları için ihtiyaç duydukları bilgilere bağlamaları konusunda oyunun kurallarını değiştiren bir fırsat sunuyor. Doğru stratejiyle bu akıllı çözümler, bir kuruluş genelinde bilginin yakalanma, organize edilme ve kullanılma şeklini dönüştürebilir.

Bu zorluğun üstesinden gelmeye yardımcı olmak amacıyla Accenture, Knowledge Assist adı verilen yenilikçi, üretken bir yapay zeka çözümü geliştirmek üzere AWS ile iş birliği yaptı. Ekip, AWS üretken yapay zeka hizmetlerini kullanarak, büyük miktarlarda yapılandırılmamış kurumsal içeriği alıp kavrayabilen bir sistem geliştirdi.

Kullanıcılar artık geleneksel anahtar kelime aramaları yerine basit, konuşmaya dayalı bir arayüzde soru sorabilir ve kesin yanıtlar alabilir. Üretken yapay zeka, kişiselleştirilmiş ve doğru yanıtlar sunmak için bilgi tabanındaki bağlamı ve ilişkileri anlar. Sistem, daha fazla sorguyu yanıtladıkça, makine öğrenimi (ML) algoritmaları aracılığıyla dil işlemeyi sürekli olarak geliştirir.

Bu yapay zeka yardım çerçevesinin başlatılmasından bu yana şirketler, çalışanların bilgi birikimi ve verimliliğinde çarpıcı gelişmeler kaydetti. Bilgiye hızlı ve kesin erişim sağlayarak ve çalışanların kendi kendilerine hizmet etmelerine olanak tanıyan bu çözüm, yeni işe alınanların eğitim süresini %50'den fazla azaltır ve üst kademelere iletilmesini %40'a kadar azaltır.

Üretken yapay zekanın gücüyle kuruluşlar, bilginin kuruluş genelinde yakalanma, organize edilme ve paylaşılma şeklini dönüştürebilir. Şirketler mevcut bilgi tabanlarının kilidini açarak çalışan verimliliğini ve müşteri memnuniyetini artırabilir. Accenture'ın AWS ile işbirliğinin gösterdiği gibi, kurumsal bilgi yönetiminin geleceği, insanlar ve makineler arasındaki etkileşimler yoluyla gelişen yapay zeka odaklı sistemlerde yatmaktadır.

Accenture, müşterilerin dağıtım yapmasına yardımcı olmak için AWS ile çalışıyor Amazon Ana Kayasıgibi en gelişmiş temel modellerden yararlanın. Amazon Titanıve aşağıdakiler gibi sektör lideri teknolojileri kullanın: Amazon SageMaker Hızlı Başlangıç ve Amazon Çıkarımı diğer AWS ML hizmetlerinin yanı sıra.

Bu gönderi, Accenture tarafından Amazon Bedrock ve diğer AWS hizmetlerini kullanan bir üretim kullanım senaryosu için geliştirilen uçtan uca üretken yapay zeka çözümüne genel bir bakış sunmaktadır.

Çözüme genel bakış

Büyük bir kamu sağlık sektörü müşterisi, her gün milyonlarca vatandaşa hizmet vermektedir ve sürekli değişen sağlık ortamında güncel bilgilere kolay erişim talep etmektedirler. Accenture, bu üretken yapay zeka işlevselliğini mevcut bir SSS botuna entegre ederek, chatbotun daha geniş bir kullanıcı sorularına yanıt vermesine olanak tanıdı. Vatandaşların ilgili bilgilere self-servis bir şekilde erişme yeteneğinin arttırılması, departmanın zamandan ve paradan tasarruf etmesini sağlar ve çağrı merkezi temsilcisi etkileşimi ihtiyacını azaltır. Çözümün temel özellikleri şunları içerir:

• Hibrit amaç yaklaşımı – Üretken ve önceden eğitilmiş niyetleri kullanır
• Çok dilli destek – İngilizce ve İspanyolca konuşuyor
• konuşma analizi – Kullanıcı ihtiyaçları, düşünceleri ve endişeleri hakkında raporlar
• Doğal sohbetler – İnsan benzeri doğal dil işleme (NLP) ile bağlamı korur
• Şeffaf alıntılar – Kullanıcıları kaynak bilgilere yönlendirir

Accenture'ın üretken yapay zeka çözümü, mevcut veya geleneksel sohbet robotu çerçevelerine göre aşağıdaki avantajları sağlar:

• Kullanıcı sorgularına hızlı bir şekilde doğru, alakalı ve doğal görünen yanıtlar üretir
• Bağlamı hatırlar ve takip eden soruları yanıtlar
• Birden çok dilde (İngilizce ve İspanyolca gibi) sorguları yönetir ve yanıtlar oluşturur
• Kullanıcı geri bildirimlerine göre yanıtları sürekli olarak öğrenir ve geliştirir
• Mevcut web platformunuza kolayca entegre edilebilir
• Geniş bir kurumsal bilgi tabanı deposunu kullanır
• İnsan gibi tepki verir
• Bilginin evrimi minimum çabayla veya hiç çaba gerektirmeden sürekli olarak mevcuttur
• Ön ödeme gerektirmeyen kullandıkça öde modeli kullanır

Bu çözümün üst düzey iş akışı aşağıdaki adımları içerir:

1. Kullanıcılar mevcut web platformlarıyla basit bir entegrasyon oluşturur.​
2. Veriler platforma 0. günde toplu yükleme olarak alınır ve ardından 1. günde artımlı yüklemeler yapılır.​
3. Kullanıcı sorguları, kullanıcı talebini karşılamak için gereken sistem ölçeklendirmesiyle gerçek zamanlı olarak işlenir.
4. Konuşmalar uygulama veritabanlarına kaydedilir (Amazon Dinamo Veritabanı) çok yönlü konuşmaları desteklemek için.​
5. Antropik Claude temel modeli, en alakalı içeriğe dayalı olarak sorgu yanıtları oluşturmak için kullanılan Amazon Bedrock aracılığıyla çağrılır.
6. Antropik Claude temel modeli, çok dilli konuşmaları desteklemek için sorguların yanı sıra yanıtları İngilizce'den istenen diğer dillere çevirmek için kullanılır.
7. Amazon Titan temel modeli, vektör yerleştirmeleri oluşturmak için Amazon Bedrock aracılığıyla çağrılır.
8. İçerik alaka düzeyi, ham içerik yerleştirmelerinin benzerliği ve Pinecone vektör veritabanı yerleştirmeleri kullanılarak yapılan kullanıcı sorgusu yerleştirmeleri aracılığıyla belirlenir.​
9. Antropik Claude modeline girdi olarak sağlanan bir bilgi istemi oluşturmak için kullanıcının sorusuyla birlikte bağlam da eklenir. Oluşturulan yanıt, web platformu aracılığıyla kullanıcıya geri gönderilir.

Aşağıdaki şemada çözüm mimarisi gösterilmektedir.

Mimari akışı iki kısımda anlaşılabilir:

Aşağıdaki bölümlerde çözümün farklı yönlerini ve gelişimini daha ayrıntılı olarak tartışacağız.

Model seçimi

Model seçimi süreci, Amazon Bedrock'ta bulunan, AI21 Labs, Cohere, Anthropic ve Amazon temel modellerini içeren çeşitli modellerin regresyon testini içeriyordu. Desteklenen kullanım örneklerini, model özelliklerini, maksimum belirteçleri, maliyeti, doğruluğu, performansı ve dilleri kontrol ettik. Buna dayanarak, bu kullanım durumu için en uygun olan Claude-2'yi seçtik.

Veri kaynağı

Bir Amazon Kendra dizini oluşturduk ve kök web URL'sine ve iki düzeyli dizin derinliğine sahip web tarayıcısı bağlayıcılarını kullanarak bir veri kaynağı ekledik. Birçok web sayfası Amazon Kendra dizinine alındı ​​ve veri kaynağı olarak kullanıldı.

GenAI sohbet robotu isteği ve yanıt süreci

Bu süreçteki adımlar, bir istekle uçtan uca etkileşimden oluşur. Amazon Lex'i ve geniş dil modelinden (LLM) bir yanıt:

1. Kullanıcı, isteği bir sunucuda barındırılan konuşma ön uç uygulamasına gönderir. Amazon Basit Depolama Hizmeti (Amazon S3) kovadan geçiyor Amazon Rota 53 ve Amazon CloudFront.
2. Amazon Lex amacı anlar ve isteği bir sunucuda barındırılan orkestratöre yönlendirir. AWS Lambda fonksiyonu.
3. Orchestrator Lambda işlevi aşağıdaki adımları gerçekleştirir:
   1. İşlev, DynamoDB tarafından yönetilen bir veritabanında barındırılan uygulama veritabanıyla etkileşime girer. Veritabanı, konuşma geçmişi için oturum kimliğini ve kullanıcı kimliğini saklar.
   2. İlgili bağlamı oluşturmak amacıyla ilk beş alakalı arama sonucunu almak için Amazon Kendra dizinine başka bir istek gönderilir. Bu bağlamı kullanarak, LLM modeli için gerekli olan değiştirilmiş bilgi istemi oluşturulmuştur.
   3. Amazon Bedrock ile orkestratör arasında bağlantı kurulur. Seçilen LLM modelinden yanıt almak için Amazon Bedrock Claude-2 modeline bir istek gönderilir.
4. Veriler LLM yanıtından sonradan işlenir ve kullanıcıya bir yanıt gönderilir.

Çevrimiçi raporlama

Çevrimiçi raporlama süreci aşağıdaki adımlardan oluşur:

1. Son kullanıcılar, CloudFront CDN ön uç katmanı aracılığıyla chatbot ile etkileşime girer.
2. Her istek/yanıt etkileşimi AWS SDK tarafından kolaylaştırılır ve ağ trafiğini Amazon Lex'e (botun NLP bileşeni) gönderir.
3. İstek/yanıt eşleştirmeleriyle ilgili meta veriler günlüğe kaydedilir Amazon Bulut İzleme.
4. CloudWatch günlük grubu, günlükleri Amazon Açık Arama Hizmeti.
5. OpenSearch Hizmetinde kullanıma sunulduktan sonra günlükler, Kibana kullanılarak raporlar ve gösterge tabloları oluşturmak için kullanılabilir.

Sonuç

Bu yazıda Accenture'ın dijital dönüşüme yönelik uçtan uca bir yaklaşımı uygulamak için AWS üretken yapay zeka hizmetlerini nasıl kullandığını gösterdik. Daha hızlı yanıt süreleri sağlamak ve dünya çapındaki kullanıcılarla etkileşime geçerken sistemi sürekli iyileştirmek için geleneksel soru yanıtlama platformlarındaki ve artırılmış üretken zekadaki boşlukları belirledik. Çözümü daha derinlemesine incelemek ve bu çözümü müşterilerinize dağıtmak için Accenture Mükemmeliyet Merkezi ekibine ulaşın.

Bu Bilgi Yardımı platformu, sağlık bilimleri, finansal hizmetler, imalat ve daha fazlası dahil ancak bunlarla sınırlı olmamak üzere farklı sektörlere uygulanabilir. Bu platform, güvence altına alınan bilgiyi kullanarak sorulara doğal, insan benzeri yanıtlar sağlar. Bu platform, kullanıcılarına verimlilik, üretkenlik ve daha doğru aksiyonlar alma olanağı sağlar.

Ortak çaba, şirketler arasındaki 15 yıllık stratejik ilişkiye dayanıyor ve şirket tarafından oluşturulan aynı kanıtlanmış mekanizmaları ve hızlandırıcıları kullanıyor. Accenture AWS İş Grubu (AAG).

AABG ekibiyle iletişime geçin: aksanureaws@amazon.com AWS'de akıllı bir veri kuruluşuna dönüşerek iş sonuçlarını artırmak.

Amazon Bedrock'u kullanan AWS'de üretken yapay zeka hakkında daha fazla bilgi için veya Amazon Adaçayı Yapıcı, aşağıdaki kaynakları öneriyoruz:

Ayrıca şunları da yapabilirsiniz AWS üretken yapay zeka bültenine kaydolunEğitim kaynakları, bloglar ve hizmet güncellemelerini içerir.

Yazarlar Hakkında

Ilan Geller Accenture'da Genel Müdür olarak Yapay Zeka odaklı olarak müşterilerin Yapay Zeka uygulamalarını ölçeklendirmelerine yardımcı oluyor ve AWS için Global GenAI COE İş Ortağı Lideri olarak görev yapıyor.

Shuyu Yang Üretken Yapay Zeka ve Büyük Dil Modeli Teslim Lideridir ve aynı zamanda CoE (Mükemmellik Merkezi) Accenture AI (AWS DevOps profesyonel) ekiplerine liderlik etmektedir.

Şihar Kwatra Amazon Web Services'te önde gelen bir Küresel Sistem Entegratörü ile çalışan bir AI/ML uzman çözüm mimarıdır. AI/ML ve IoT alanlarında 500'den fazla patenti ile En Genç Hintli Usta Mucitlerden biri unvanını kazandı. Shikhar, kuruluş için uygun maliyetli, ölçeklenebilir bulut ortamlarının tasarlanmasına, oluşturulmasına ve sürdürülmesine yardımcı olur ve GSI iş ortağını AWS'de stratejik sektör çözümleri oluşturma konusunda destekler.

Jay Pillai Amazon Web Services'te Baş Çözüm Mimarıdır. Bu görevinde, Küresel Üretken Yapay Zeka Baş Mimarı ve aynı zamanda AABG'de Tedarik Zinciri Çözümleri Baş Mimarı olarak görev yapmaktadır. Bilgi Teknolojisi Lideri olarak Jay, yapay zeka, veri entegrasyonu, iş zekası ve kullanıcı arayüzü alanlarında uzmanlaşmıştır. Tedarik zinciri, hukuk teknolojileri, emlak, finansal hizmetler, sigorta, ödemeler ve pazar araştırması iş alanlarında çok sayıda müşteriyle çalışma konusunda 23 yıllık kapsamlı deneyime sahiptir.

Karthik Sonti Ortak müşterilerimizin işlerini AWS'de farklı bir şekilde dönüştürmelerine yardımcı olmak için Accenture ile yatay, işlevsel ve dikey çözümleri kavramsallaştırmaya, oluşturmaya ve başlatmaya odaklanan küresel bir Çözüm Mimarları ekibine liderlik etmektedir.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/