2021 başlatılan, Amazon SageMaker Tuval herhangi bir kod yazmaya gerek kalmadan makine öğrenimi (ML) modelleri oluşturmaya ve dağıtmaya yönelik görsel, işaretle ve tıkla hizmetidir. SageMaker Canvas'ta bulunan kullanıma hazır Temel Modeller (FM'ler), müşterilerin içerik oluşturma ve özetleme gibi görevler için üretken yapay zekayı kullanmalarına olanak tanır.

Platforma heyecan verici yeni üretken yapay zeka yetenekleri getiren Amazon SageMaker Canvas'a yönelik en son güncellemeleri duyurmaktan heyecan duyuyoruz. Meta Llama 2 ve Mistral.AI modellerine yönelik destek ve akış yanıtlarının başlatılmasıyla SageMaker Canvas, tek satır kod yazmadan üretken yapay zekaya başlamak isteyen herkesi desteklemeye devam ediyor. Bu yazıda bu güncellemeleri ve faydalarını tartışacağız.

Meta Llama 2 ve Mistral modelleriyle tanışın

Llama 2, Meta'nın çok çeşitli üretken yapay zeka görevleri için gelişmiş ölçeklenebilirlik ve çok yönlülük sunan son teknoloji ürünü bir temel modelidir. Kullanıcılar, Llama 2'nin anlamlı ve tutarlı konuşmalar yapma, yeni içerik üretme ve mevcut notlardan yanıtlar çıkarma yeteneğine sahip olduğunu bildirdi. Llama 2, günümüzde mevcut olan en gelişmiş büyük dil modelleri (LLM'ler) arasındadır.

Önde gelen yapay zeka Fransız girişimi Mistral.AI, 7 milyar parametreye sahip güçlü bir dil modeli olan Mistral 7.3B'yi geliştirdi. Mistral modelleri, daha hızlı çıkarım için Gruplandırılmış sorgu dikkatinin (GQA) kullanılması sayesinde açık kaynak topluluğu tarafından çok iyi karşılandı, bu da onu oldukça verimli hale getiriyor ve parametre sayısının iki veya üç katı olan modelle karşılaştırılabilir bir performans gösteriyor.

Bugün, SageMaker Canvas'ın artık üç Llama 2 model varyantını ve iki Mistral 7B varyantını desteklediğini duyurmanın heyecanını yaşıyoruz:

Bu modelleri test etmek için SageMaker Canvas'a gidin Kullanıma hazır modeller sayfa, ardından seçin İçerik oluşturun, çıkarın ve özetleyin. SageMaker Canvas GenAI sohbet deneyimini burada bulacaksınız. Burada, model açılır menüsünden seçerek Amazon Bedrock veya SageMaker JumpStart'taki herhangi bir modeli kullanabilirsiniz.

Bizim durumumuzda Llama 2 modellerinden birini seçiyoruz. Artık girişinizi veya sorgunuzu sağlayabilirsiniz. Siz girdiyi gönderdikçe SageMaker Canvas da girdinizi modele iletir.

SageMaker Canvas'ta bulunan modellerden hangisinin kullanım durumunuza en uygun olduğunu seçmek, modellerin kendileri hakkındaki bilgileri dikkate almanızı gerektirir: Llama-2-70B-chat modeli daha büyük bir modeldir (70 milyar parametreye kıyasla 13 milyar parametre). Llama-2-13B-chat ile), bu da performansının genellikle küçük olandan daha yüksek olduğu, ancak biraz daha yüksek gecikme ve artan jeton başına maliyet anlamına geldiği anlamına gelir. Mistral-7B, Llama-2-7B veya Llama-2-13B ile karşılaştırılabilir performanslara sahiptir ancak Amazon SageMaker'da barındırılmaktadır. Bu, fiyatlandırma modelinin farklı olduğu, token başına dolar fiyatlandırma modelinden saat başına dolar modeline geçtiği anlamına gelir. Bu, saat başına önemli miktarda istek ve geniş ölçekte tutarlı kullanım ile daha uygun maliyetli olabilir. Yukarıdaki modellerin tümü çeşitli kullanım durumlarında iyi performans gösterebilir; bu nedenle önerimiz, çıktı, aktarım hızı ve maliyet değişimlerini göz önünde bulundurarak sorununuzu en iyi şekilde çözen modelin değerlendirilmesidir.

Modellerin nasıl davrandığını karşılaştırmanın basit bir yolunu arıyorsanız, SageMaker Canvas bu özelliği doğal olarak model karşılaştırmaları biçiminde sağlar. En fazla üç farklı model seçip hepsine aynı anda aynı sorguyu gönderebilirsiniz. SageMaker Canvas daha sonra modellerin her birinden yanıtları alacak ve bunları yan yana sohbet arayüzünde gösterecek. Bunu yapmak için seçin Karşılaştırmak ve aşağıda gösterildiği gibi karşılaştırılacak diğer modelleri seçin:

Yanıt akışıyla tanışın: Gerçek zamanlı etkileşimler ve gelişmiş performans

Bu sürümdeki en önemli gelişmelerden biri akışlı yanıtların kullanıma sunulmasıdır. Yanıtların akışı, kullanıcıya daha zengin bir deneyim sağlar ve sohbet deneyimini daha iyi yansıtır. Akışlı yanıtlarla kullanıcılar anında geri bildirim alabilir ve sohbet robotu uygulamalarına kusursuz entegrasyon sağlayabilir. Bu, daha etkileşimli ve duyarlı bir deneyime olanak tanıyarak, sohbet robotunun genel performansını ve kullanıcı memnuniyetini artırır. Sohbete benzer bir şekilde anında yanıt alma yeteneği, daha doğal bir konuşma akışı yaratır ve kullanıcı deneyimini geliştirir.

Bu özellik sayesinde artık yapay zeka modellerinizle gerçek zamanlı etkileşime girebilir, anında yanıtlar alabilir ve çeşitli uygulamalara ve iş akışlarına sorunsuz entegrasyon sağlayabilirsiniz. Amazon Bedrock ve SageMaker JumpStart'tan SageMaker Canvas'ta sorgulanabilen tüm modeller, yanıtları kullanıcıya aktarabilir.

Bu gün başlayacağım

İster bir sohbet robotu, öneri sistemi veya sanal asistan oluşturuyor olun, Llama 2 ve Mistral modelleri, akışlı yanıtlarla bir araya gelerek projelerinize gelişmiş performans ve etkileşim kazandırır.

SageMaker Canvas'ın en yeni özelliklerini kullanmak için uygulamayı silip yeniden oluşturduğunuzdan emin olun. Bunu yapmak için, şunu seçerek uygulamadan çıkış yapın: Çıkış Yap, ardından SageMaker Canvas'ı tekrar açın. Yeni modelleri görmeli ve en son çıkanların keyfini çıkarmalısınız. SageMaker Canvas uygulamasında oturumu kapatmak, çalışma alanı örneği tarafından kullanılan tüm kaynakları serbest bırakacak ve böylece istenmeyen ek ücretlerin oluşmasını önleyecektir.

Sonuç

SageMaker Canvas'ta Llama 2 ve Mistral modellerine yönelik yeni akışlı yanıtlara başlamak için şu adresi ziyaret edin: SageMaker konsolu ve sezgisel arayüzü keşfedin. SageMaker Canvas ve üretken yapay zekanın iş hedeflerinize ulaşmanıza nasıl yardımcı olabileceği hakkında daha fazla bilgi edinmek için bkz. Amazon SageMaker Canvas ve Generative AI kullanarak iş kullanıcılarınızın şirket belgelerinden öngörü elde etmelerini sağlayın ve Üretken yapay zeka ve Amazon SageMaker Canvas ile iletişim merkezinde sık karşılaşılan zorlukların üstesinden gelmek.

SageMaker Canvas özellikleri hakkında daha fazla bilgi edinmek ve diğer makine öğrenimi kullanım örneklerini derinlemesine incelemek istiyorsanız, şu adreste bulunan diğer gönderilere göz atın: SageMaker Canvas kategorisi AWS ML Blogu'ndan. Bu yeni yeteneklerle oluşturacağınız muhteşem yapay zeka uygulamalarını görmek için sabırsızlanıyoruz!

yazarlar hakkında

Davide Gallitelli AI/ML alanında Kıdemli Uzman Çözüm Mimarıdır. Kendisi Brüksel'de bulunuyor ve dünyanın dört bir yanındaki Düşük Kodlu/Kodsuz Makine Öğrenimi teknolojilerini ve Üretken Yapay Zekayı benimsemek isteyen müşterilerle yakın işbirliği içinde çalışıyor. Çok küçük yaşlardan beri geliştirici olarak çalışıyor ve 7 yaşında kodlamaya başlıyor. Üniversitede AI/ML öğrenmeye başladı ve o zamandan beri ona aşık oldu.

Dan Sinnreich AWS'de Kıdemli Ürün Yöneticisi olarak görev yapıyor ve az kodlu/kodsuz makine öğreniminin demokratikleştirilmesine yardımcı oluyor. AWS'den önce Dan, kurumsal yatırımcıların riski yönetmek ve optimum portföyler oluşturmak için kullandığı kurumsal SaaS platformlarını ve zaman serisi modellerini oluşturup ticarileştirdi. İş dışında hokey oynarken, tüplü dalış yaparken ve bilim kurgu okurken bulunabilir.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/