בעקבות המוצלח השקה של 'Code Llama 70B' בינואר, Meta פרסמה כעת את האיטרציה האחרונה של מעצמת LLM בקוד פתוח שלה, Lama 3, על התשתית של Amazon AWS.
באימייל ל-TechStartups חשפה אמזון כי "Meta Llama 3 נגיש כעת דרך אמזון SageMaker JumpStart." הגרסה האחרונה הזו הולכת בעקבות קודמתה, Llama 2, שהייתה נגישה באמזון SageMaker JumpStart ו סלע אמזון מאז השנה הקודמת.
מתגאה בשני גדלי פרמטרים - 8B ו-70B עם אורך הקשר של 8k - Llama 3 מבטיח לספק מגוון רחב של מקרי שימוש עם שיפורים בהיגיון, יצירת קוד ומעקב אחר הוראות. הארכיטקטורה של Llama 3 מאמצת עיצוב שנאי מפענח בלבד בשילוב עם טוקנייזר חדש, וכתוצאה מכך ביצועי דגם משופרים המוקפים בגודל 128k.
"Llama 3 מגיע בשני גדלי פרמטרים - 8B ו-70B עם אורך הקשר של 8k - שיכולים לתמוך במגוון רחב של מקרי שימוש עם שיפורים בהיגיון, יצירת קוד ומעקב אחר הוראות", כתבה אמזון.
אם אתה משתמש ב-SageMaker Studio, תמצא את SageMaker JumpStart ממש שם, ומציע חבורה של דברים שימושיים כמו דגמים מאומנים מראש, מחברות ופתרונות מוכנים. פשוט עברו לקטע "פתרונות מובנים ואוטומטיים", והכל מוכן!
AWS SageMaker JumpStart (מקור: Amazon AWS)
כשאתה נוחת בדף של SageMaker JumpStart, זה די פשוט למצוא דגמים שונים. פשוט דפדף בין הרכזים, שהם בעצם קטעים שנקראים על שם האנשים שמספקים את הדגמים. לדוגמה, אם אתה מחפש דגמי Llama 3, פנה למרכז Meta. ואם אתה לא מזהה אותם מיד, אל דאגה - פשוט נסה לעדכן את גרסת SageMaker Studio שלך על ידי כיבוי והפעלה מחדש. זה אמור לעשות את העבודה!
AWS JumpStart (מקור: Amazon AWS)
יתרה מכך, Meta שיכללה את ההליכים שלאחר האימון כדי לצמצם משמעותית את שיעורי הסירובים הכוזבים, לשפר את היישור ולהגביר את הגיוון בתגובות המודל. משתמשים מוסמכים כעת לרתום את היתרונות המשולבים של היכולות ובקרות ה-MLOps של Llama 3 על ידי מינוף תכונות של אמזון SageMaker כמו SageMaker Pipelines, SageMaker Debugger או יומני מיכל. בנוסף, המודל ייפרס בתוך הגבולות המאובטחים של AWS תחת בקרות ה-VPC שלהם, ויחזק את אמצעי אבטחת הנתונים.
נכון לעכשיו, AWS עומדת כספקית הענן הבלעדית המספקת ללקוחות גישה לדגמי היסודות המבוקשים והמתקדמים ביותר. Amazon Bedrock לוקחת באופן עקבי את ההובלה בהפיכת הדגמים הפופולריים האלה לזמינים בקלות:
- Amazon Bedrock מתנשא כשירות המנוהל המוביל והבלעדי שמציע את כל דגמי האנתרופיק קלוד 3 - אופוס, סונט והאיקו - כזמינים בדרך כלל.
- AWS הכניסה את כל דגמי Mistral AI, כולל Mistral Large, אל Amazon Bedrock.
- Amazon Bedrock הובילה את הזמינות של Meta Llama 2 באמצעות API מנוהל.
מתפקדת כשירות מנוהל במלואו, אמזון Bedrock משמשת כיעד הרצוי למבחר נרחב של דגמי יסוד בעלי ביצועים גבוהים מטיטאנים בתעשייה כגון AI21 Labs, Amazon, Anthropic, Cohere, Meta, Mistral AI ו-Stability AI, כולם נגיש דרך API יחיד. יתרה מכך, הוא מספק חבילה מקיפה של יכולות הכוללות סוכנים, מעקות, בסיסי ידע והערכת מודלים, ומעצימה ארגונים ליצור יישומי בינה מלאכותית גנרטיבית עם דגש על אבטחה, פרטיות ובינה מלאכותית אחראית. עם עשרות אלפי ארגונים ברחבי העולם המסתמכים על אמזון Bedrock, היא חיזקה את מעמדה כשחקנית מרכזית בתחום יישומי בינה מלאכותית.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://techstartups.com/2024/04/18/meta-launches-its-llama-3-open-source-llm-on-amazon-aws/
