Bu yazı Alida'dan Sherwin Chu ile birlikte yazılmıştır.

Alida Dünyanın en büyük markalarının, daha iyi müşteri deneyimlerini ve ürün inovasyonunu teşvik eden geri bildirimleri toplamak için son derece katılımcı araştırma toplulukları oluşturmasına yardımcı olur.

Alida'nın müşterileri tek bir anket için on binlerce katılımlı yanıt aldığından Alida ekibi, müşterilerine geniş ölçekte hizmet vermek için makine öğreniminden (ML) yararlanmayı tercih etti. Ancak geleneksel doğal dil işleme (NLP) modellerini kullanırken, bu çözümlerin açık uçlu anket yanıtlarındaki incelikli geri bildirimleri tam olarak anlamakta zorluk çektiğini buldular. Modeller genellikle yalnızca yüzeysel konuları ve düşünceleri yakalıyor ve daha doğru ve anlamlı içgörülere olanak sağlayacak önemli bağlamları kaçırıyordu.

Bu yazıda Anthropic'in Claude Instant modelinin nasıl çalıştığını öğreniyoruz. Amazon Ana Kayası Alida ekibinin, karmaşık anket yanıtlarındaki konuyu ve düşünceyi daha doğru bir şekilde belirleyen, ölçeklenebilir bir hizmeti hızlı bir şekilde oluşturmasına olanak sağladı. Yeni hizmet, yüzlerce gürültülü NLP anahtar kelimesine karşı birkaç düzine ana konuyu sıkı bir şekilde kümeleyerek konu iddiasında 4-6 kat iyileşme elde etti.

Amazon Bedrock, AI21 Labs, Anthropic, Cohere, Meta, Stability AI ve Amazon gibi önde gelen AI şirketlerinin yüksek performanslı temel modelleri (FM'ler) seçeneklerini tek bir API aracılığıyla geniş kapsamlı bir API aracılığıyla sunan, tümüyle yönetilen bir hizmettir. Güvenlik, gizlilik ve sorumlu yapay zeka ile üretken yapay zeka uygulamaları oluşturmak için ihtiyaç duyduğunuz yetenekler kümesi.

Amazon Bedrock'u kullanmak, Alida'nın hizmetlerini diğer makine öğrenimi (ML) sağlayıcıları veya satıcılarına kıyasla daha hızlı pazara sunmasına olanak tanıdı.

Meydan okuma

Çoktan seçmeli ve açık uçlu soruların bir arada yer aldığı anketler, pazar araştırmacılarının hem niceliksel hem de niteliksel veri noktalarını yakalayarak daha bütünsel bir bakış açısı elde etmelerine olanak tanır.

Çoktan seçmeli soruların geniş ölçekte analiz edilmesi kolaydır ancak nüans ve derinlikten yoksundur. Yanıt seçeneklerinin belirlenmesi aynı zamanda katılımcı yanıtlarının önyargılı hale getirilmesine veya hazırlanmasına da yol açabilir.

Açık uçlu anket soruları, yanıt verenlerin bağlam ve beklenmedik geri bildirim sağlamalarına olanak tanır. Bu niteliksel veri noktaları, araştırmacıların anlayışını, çoktan seçmeli soruların tek başına ortaya çıkarabileceklerinin ötesinde derinleştirir. Serbest biçimli metnin zorluğu, geleneksel NLP'nin tam olarak anlaması zor olan karmaşık ve incelikli yanıtlara yol açabilmesidir. Örneğin:

“Son zamanlarda hayatın bazı zorluklarını yaşadım ve gerçekten moralim bozuldu ve hayal kırıklığına uğradım. İçeri girdiğimde personel bana her zaman çok nazik davrandı. Bazı zor zamanları atlatmama yardımcı oldu!”

Geleneksel NLP yöntemleri, konuları "zorluklar", "hayal kırıklığı", "kibar personel" ve "zor zamanların üstesinden gelmek" olarak tanımlayacaktır. Yanıt verenin genel mevcut olumsuz yaşam deneyimleri ile belirli olumlu mağaza deneyimleri arasında ayrım yapamaz.

Alida'nın mevcut çözümü, büyük hacimli açık uçlu yanıtları otomatik olarak işliyor ancak müşterilerinin daha iyi bağlamsal anlayış ve üst düzey konu çıkarımı kazanmasını istiyordu.

Amazon Ana Kayası

Yüksek Lisans'ların piyasaya sürülmesinden önce Alida'nın mevcut tek model çözümünü geliştirmesinin yolu, sektör uzmanlarıyla yakın işbirliği içinde çalışmak ve Alida'nın müşterilerinin faaliyet gösterdiği sektör dikeylerinin her biri için özel olarak yeni modeller geliştirmek, eğitmek ve iyileştirmekti. Bu hem zaman hem de maliyet açısından yoğun bir çabaydı.

Yüksek Lisans'ı bu kadar güçlü kılan buluşlardan biri de dikkat mekanizmalarının kullanılmasıdır. LLM'ler, belirli bir istemdeki kelimeler arasındaki ilişkileri analiz eden kişisel dikkat mekanizmalarını kullanır. Bu, LLM'lerin önceki örnekte konuyu ve duyguyu daha iyi ele almasına olanak tanır ve bu zorluğun üstesinden gelmek için kullanılabilecek heyecan verici yeni bir teknoloji sunar.

Amazon Bedrock ile ekipler ve bireyler, altyapı sağlama veya makine öğrenimi çerçevelerini kurup yapılandırma konusunda endişelenmelerine gerek kalmadan temel modellerini hemen kullanmaya başlayabilir. Aşağıdaki adımlarla başlayabilirsiniz:

1. Kullanıcınızın veya rolünüzün Amazon Bedrock kaynaklarını oluşturma veya değiştirme iznine sahip olduğunu doğrulayın. Ayrıntılar için bkz. Amazon Bedrock için kimlik tabanlı politika örnekleri
2. Oturum açın Amazon Ana Kayası konsol.
3. Üzerinde Model erişimi sayfasında EULA'yı inceleyin ve hesabınızda olmasını istediğiniz FM'leri etkinleştirin.
4. Aşağıdaki yöntemlerle FM'lerle etkileşime girmeye başlayın:

Alida'nın yönetici liderlik ekibi, Amazon Bedrock'u ilk benimseyenlerden biri olmak konusunda istekliydi çünkü ekiplerinin yeni üretken yapay zeka destekli çözümleri pazara daha hızlı sunmalarına yardımcı olma yeteneğini fark ettiler.

Konu ve duygu analizi hizmetinin oluşturulmasından sorumlu ekibe liderlik eden Alida Kıdemli Mühendislik Direktörü Vincy William şunları söylüyor:

“LLM'ler niteliksel analizde büyük bir sıçrama sağlıyor ve insan eliyle yapılması mümkün olmayan şeyleri (bu ölçekte) yapıyor. Amazon Bedrock oyunun kurallarını değiştiriyor; yüksek lisans programlarından karmaşıklık olmadan yararlanmamıza olanak sağlıyor."

Mühendislik ekibi, Amazon Bedrock'u kullanmaya başlamanın kolaylığını anında yaşadı. Çeşitli temel modeller arasından seçim yapabilir ve modelleri çalıştırmak için kaynakları doğru boyutlandırma, tedarik etme, dağıtma ve yapılandırmaya zaman harcamak yerine hızlı mühendisliğe odaklanmaya başlayabilirler.

Çözüme genel bakış

Alida'nın Baş Mimarı Sherwin Chu, Alida'nın mikro hizmet mimarisi yaklaşımını paylaştı. Alida, ilk uygulaması olarak anket yanıt analizini kullanarak konu ve duygu sınıflandırmasını bir hizmet olarak oluşturdu. Bu yaklaşımla, istemleri yönetme karmaşıklığı, belirteç sınırları, istek kısıtlamaları ve yeniden denemeler gibi yaygın LLM uygulama zorlukları ortadan kaldırılır ve çözüm, tüketen uygulamaların basit ve kararlı bir API ile çalışmasına olanak tanır. Bu soyutlama katmanı yaklaşımı aynı zamanda hizmet sahiplerinin dahili uygulama ayrıntılarını sürekli olarak geliştirmesine ve API'yi bozan değişiklikleri en aza indirmesine olanak tanır. Son olarak hizmet yaklaşımı, kuruluşta yapay zeka yönetişimi olgunlaştıkça gelişen her türlü veri yönetişimi ve güvenlik politikasının tek bir noktadan uygulanmasına olanak tanır.

Aşağıdaki diyagram çözüm mimarisini ve akışını göstermektedir.

Alida, çeşitli sağlayıcıların yüksek lisans eğitimlerini değerlendirdi ve Anthropic'in Claude Instant'ının maliyet ve performans arasında doğru denge olduğunu buldu. Hızlı mühendislik ekibiyle yakın işbirliği içinde çalışan Chu, tek bir monolit hızlı yaklaşım yerine hızlı zincirleme stratejisinin uygulanmasını savundu.

İstem zincirleme aşağıdakileri yapmanızı sağlar:

• Hedefinizi daha küçük, mantıklı adımlara ayırın
• Her adım için bir bilgi istemi oluşturun
• İstemleri LLM'ye sırayla sağlayın

Bu, aşağıdaki avantajlara sahip ek denetim noktaları oluşturur:

• Giriş isteminde yaptığınız değişiklikleri sistematik olarak değerlendirmek kolaydır
• Her adımda doğruluk ve performansın daha ayrıntılı takibini ve izlenmesini uygulayabilirsiniz.

Bu stratejiyle ilgili temel hususlar, LLM'ye yapılan taleplerin sayısındaki artışı ve bunun sonucunda hedefin tamamlanması için gereken toplam süredeki artışı içerir. Alida'nın kullanım senaryosu için, bu etkileri dengelemek amacıyla LLM'ye tek bir istemde açık uçlu yanıtlardan oluşan bir koleksiyonu gruplamayı seçtiler.

NLP ve LLM

Alida'nın mevcut NLP çözümü, açık uçlu anket yanıtlarını analiz etmek için kümeleme algoritmalarına ve istatistiksel sınıflandırmaya dayanıyor. Bir kafenin mobil uygulaması için örnek geri bildirim uygulandığında, konuları kelime kalıplarına göre çıkarıyordu ancak gerçek anlamda bir anlayıştan yoksundu. Aşağıdaki tabloda NLP yanıtları ile LLM yanıtlarını karşılaştıran bazı örnekler yer almaktadır.

Örnek sonuçlar, mevcut çözümün ilgili anahtar kelimeleri nasıl çıkarabildiğini, ancak daha genelleştirilmiş bir konu grubu atamasını nasıl gerçekleştiremediğini göstermektedir.

Buna karşılık, Amazon Bedrock ve Anthropic Claude Instant'ı kullanan LLM, bağlam içi eğitimle yanıtları önceden tanımlanmış konulara atayabilir ve duyarlılığı atayabilir.

Alida'nın müşterilerine daha iyi yanıtlar sunmanın yanı sıra, bu özel kullanım durumu için, geleneksel NLP yöntemleri yerine Yüksek Lisans kullanan bir çözüm aramak, uygun bir modelin eğitimi ve sürdürülmesinde büyük miktarda zaman ve çaba tasarrufu sağladı. Aşağıdaki tablo, geleneksel bir NLP modelinin eğitimi ile bir Yüksek Lisans'ın bağlam içi eğitimi arasında karşılaştırma yapmaktadır.

Sonuç

Alida'nın Amazon Bedrock'ta Anthropic'in Claude Instant modelini kullanması, LLM'lerin açık uçlu anket yanıtlarını analiz etme konusundaki güçlü yeteneklerini gösteriyor. Alida, NLP destekli hizmetlerine kıyasla konu analizinde 4-6 kat daha hassas, üstün bir hizmet oluşturmayı başardı. Ek olarak, LLM'ler için bağlam içi bilgi istemi mühendisliğinin kullanılması, geliştirme süresini önemli ölçüde azalttı çünkü geleneksel bir NLP modelini eğitmek için insan etiketli binlerce veri noktasını seçmelerine gerek yoktu. Bu, sonuçta Alida'nın müşterilerine daha erken ve daha zengin bilgiler sunmasına olanak tanır!

Amazon Bedrock ile kendi temel modeli yeniliğinizi oluşturmaya başlamaya hazırsanız şu bağlantıya göz atın: Amazon Bedrock'u kurun. Diğer ilgi çekici Amazon Bedrock uygulamaları hakkında bilgi edinmek istiyorsanız bkz. Amazon Ana Kayası'na özel bölüm AWS Makine Öğrenimi Blogu.

yazarlar hakkında

Kinman Lam AWS için ISV/DNB Çözüm Mimarıdır. Akıllı telefon, coğrafi konum, IoT ve açık kaynak yazılım alanında teknoloji şirketleri kurma ve büyütme konusunda 17 yıllık deneyime sahiptir. AWS'de deneyimini, büyüyen işletmelerin artan taleplerini karşılamak, yeni ürün ve hizmetleri piyasaya sürmek, yeni pazarlara girmek ve müşterilerini memnun etmek için şirketlerin sağlam altyapı oluşturmasına yardımcı olmak için kullanıyor.

Şerwin Chu Alida'nın Baş Mimarıdır ve ürün ekiplerine mimari yönlendirme, teknoloji seçimi ve karmaşık problem çözme konularında yardımcı olmaktadır. Çeşitli endüstrilere yönelik SaaS alanında 20 yıldan fazla deneyime sahip deneyimli bir yazılım mühendisi, mimar ve liderdir. AWS ve GCP'de çok sayıda B2B ve B2C sistemi kurdu ve yönetti.

Mark Roy AWS'nin Baş Makine Öğrenimi Mimarıdır ve müşterilerin yapay zeka/makine öğrenimi ve üretken yapay zeka çözümleri tasarlamasına ve oluşturmasına yardımcı olur. 2023'ün başından bu yana odak noktası, AWS'nin inşaatçılar için amiral gemisi olan üretken yapay zeka teklifi Amazon Bedrock'un piyasaya sürülmesi için çözüm mimarisi çalışmalarına liderlik etmek oldu. Mark'ın çalışmaları, üretken yapay zeka, aracılar ve makine öğreniminin kuruluş çapında ölçeklendirilmesine öncelikli ilgi duyan çok çeşitli kullanım örneklerini kapsamaktadır. Sigorta, finansal hizmetler, medya ve eğlence, sağlık hizmetleri, kamu hizmetleri ve üretim alanlarındaki şirketlere yardımcı olmuştur. AWS'ye katılmadan önce Mark, 25 yılı finansal hizmetlerde olmak üzere 19 yılı aşkın bir süre mimar, geliştirici ve teknoloji lideri olarak çalıştı. Mark, ML Uzmanlık Sertifikasyonu da dahil olmak üzere altı AWS sertifikasına sahiptir.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/alida-gains-deeper-understanding-of-customer-feedback-with-amazon-bedrock/