Zephyrnet Logosu

Meta, Llama 3 açık kaynaklı LLM'sini Amazon AWS'de başlattı – Tech Startups

Tarih:

Başarılı takibi 'Code Llama 70B' lansmanı Ocak ayında Meta, Amazon AWS altyapısında açık kaynaklı LLM güç merkezi Llama 3'ün en son yinelemesini yayınladı.

Amazon, TechStartups'a gönderdiği bir e-postada "Meta Llama 3'e artık şu adresten erişilebildiğini" açıkladı: Amazon SageMaker Hızlı Başlangıç.” Bu son sürüm, Amazon SageMaker JumpStart'tan erişilebilen öncülü Llama 2'nin izinden gidiyor ve Amazon Ana Kayası önceki yıldan bu yana.

8k bağlam uzunluğuna sahip 70B ve 8B olmak üzere iki parametre boyutuna sahip olan Llama 3, akıl yürütme, kod oluşturma ve talimat takibi konularındaki iyileştirmelerle çok çeşitli kullanım senaryolarına hitap etmeyi vaat ediyor. Llama 3'ün mimarisi, yeni bir tokenizer ile birleştirilmiş, yalnızca kod çözücüye yönelik bir transformatör tasarımını benimser ve bu, 128k boyutunda kapsüllenmiş yüksek model performansıyla sonuçlanır.

Amazon, "Llama 3, muhakeme, kod oluşturma ve talimatları takip etme konularında iyileştirmelerle geniş bir kullanım senaryosu yelpazesini destekleyebilen iki parametre boyutunda (8k bağlam uzunluğuyla 70B ve 8B) geliyor" diye yazdı.

SageMaker Studio'yu kullanıyorsanız, önceden eğitilmiş modeller, dizüstü bilgisayarlar ve hazır çözümler gibi bir dizi kullanışlı şey sunan SageMaker JumpStart'ı tam burada bulacaksınız. Sadece “Önceden oluşturulmuş ve otomatikleştirilmiş çözümler” bölümüne gidin, artık hazırsınız!

AWS SageMaker HızlıBaşlangıç ​​(Kaynak: Amazon AWS)

SageMaker JumpStart sayfasına girdiğinizde farklı modelleri bulmak oldukça kolaydır. Temel olarak modelleri sağlayan kişilerin adını taşıyan bölümler olan merkezlere göz atmanız yeterli. Örneğin, Llama 3 modellerini arıyorsanız Meta hub'ına gidin. Bunları hemen fark etmezseniz endişelenmeyin; yalnızca SageMaker Studio sürümünüzü kapatıp yeniden başlatarak güncellemeyi deneyin. Bu işe yarayacaktır!

AWS JumpStart (Kaynak: Amazon AWS)

Üstelik Meta, yanlış ret oranlarını önemli ölçüde azaltmak, uyumu geliştirmek ve model yanıtlarındaki çeşitliliği artırmak için eğitim sonrası prosedürleri geliştirdi. Kullanıcılar artık SageMaker Pipelines, SageMaker Debugger veya konteyner günlükleri gibi Amazon SageMaker özelliklerinden yararlanarak Llama 3'ün becerisi ve MLOps kontrollerinin birleşik avantajlarından yararlanma olanağına sahip. Ek olarak model, AWS'nin güvenli sınırları içerisinde VPC kontrolleri altında dağıtılacak ve veri güvenliği önlemleri güçlendirilecek.

Şu anda AWS, müşterilere en çok aranan ve en son teknoloji temel modellere erişim sağlayan tek bulut sağlayıcısı olarak duruyor. Amazon Bedrock, bu popüler modellerin kullanıma hazır hale getirilmesinde sürekli olarak öncülük ediyor:

  • Amazon Bedrock, tüm Anthropic Claude 3 modellerini (Opus, Sonnet ve Haiku) genel kullanıma sunan birinci sınıf ve ayrıcalıklı yönetilen hizmet olarak öne çıkıyor.
  • AWS, Mistral Large da dahil olmak üzere tüm Mistral AI modellerini Amazon Bedrock'ta kullanmaya başladı.
  • Amazon Bedrock, yönetilen bir API aracılığıyla Meta Llama 2'nin kullanılabilirliğine öncülük etti.

Tam olarak yönetilen bir hizmet olarak işlev gören Amazon Bedrock, tamamı AI21 Labs, Amazon, Anthropic, Cohere, Meta, Mistral AI ve Stability AI gibi endüstri devlerinin yüksek performanslı temel modellerinden oluşan geniş bir seçki için başvurulacak hedef olarak hizmet vermektedir. tek bir API üzerinden erişilebilir. Ayrıca, Aracıları, Koruma Raylarını, Bilgi Tabanlarını ve Model Değerlendirmeyi kapsayan kapsamlı bir yetenek paketi sunarak kuruluşların güvenliğe, gizliliğe ve sorumlu yapay zekaya vurgu yaparak üretken yapay zeka uygulamaları oluşturmasına olanak sağlar. Dünya çapında on binlerce kuruluşun Amazon Bedrock'a güvenmesiyle, üretken yapay zeka uygulamaları alanında önemli bir oyuncu olarak konumunu sağlamlaştırdı.

spot_img

En Son İstihbarat

spot_img