Image par auteur
 

Dans cet article de blog, nous passerons en revue un célèbre référentiel GitHub éducatif avec 24 XNUMX ⭐ étoiles. Ce référentiel fournit une structure pour vous aider à maîtriser gratuitement les grands modèles linguistiques (LLM). Nous discuterons de la structure du cours, des cahiers Jupyter qui contiennent des exemples de code et des articles couvrant les derniers développements LLM.

La Cours sur le modèle de langage étendu est un programme complet conçu pour doter les apprenants des compétences et des connaissances nécessaires pour exceller dans le domaine en évolution rapide des grands modèles linguistiques. Il se compose de trois parties principales couvrant les outils et concepts fondamentaux et avancés. Chaque section principale contient plusieurs sujets accompagnés de didacticiels, de guides et de ressources YouTube disponibles gratuitement en ligne.

Le cours LLM est un guide utile qui offre une méthode d'apprentissage structurée en fournissant des ressources, des didacticiels, des vidéos, des cahiers et des articles disponibles gratuitement en un seul endroit. Même si vous êtes un débutant complet, vous pouvez commencer par la section des principes fondamentaux et en apprendre davantage sur les algorithmes, les outils techniques et divers pour résoudre des problèmes simples de langage naturel et d'apprentissage automatique.

Le cours est divisé en trois parties principales, chacune se concentrant sur un aspect différent de l'expertise LLM :

Fondamentaux du LLM

Cette partie fondamentale aborde les connaissances essentielles requises pour comprendre et travailler avec les LLM. Il couvre les mathématiques, la programmation Python, les bases des réseaux de neurones et le traitement du langage naturel. Pour tous ceux qui souhaitent se lancer dans l’apprentissage automatique ou approfondir leur compréhension de ses fondements mathématiques, cette section est inestimable. Les ressources fournies, de la série de vidéos captivantes de 3Blue1Brown aux cours complets de Khan Academy, offrent une variété de parcours d'apprentissage adaptés à différents styles d'apprentissage.

Sujets couverts:

1. Mathématiques pour l'apprentissage automatique
2. Python pour l'apprentissage automatique
3. Les réseaux de neurones
4. Traitement du langage naturel (PNL)

Le scientifique LLM 

Ce guide LLM Scientist est conçu pour les personnes intéressées par le développement de LLM de pointe. Il couvre l'architecture des LLM, y compris les modèles Transformer et GPT, et aborde des sujets avancés tels que la quantification, les mécanismes d'attention, le réglage fin et le RLHF. Le guide explique chaque sujet en détail et propose des didacticiels et diverses ressources pour consolider les concepts. Le concept tout entier est d’apprendre en construisant.

Sujets couverts:

1. L'architecture du LLM
2. Construire un ensemble de données d'instructions
3. Modèles de pré-formation
4. Mise au point supervisée
5. Apprentissage par renforcement à partir de la rétroaction humaine
6. Evaluation
7. Quantification
8. Nouvelles tendances

L'ingénieur LLM

Cette partie du cours se concentre sur l'application pratique des LLM. Il guidera les apprenants tout au long du processus de création d'applications basées sur LLM et de leur déploiement. Les sujets abordés incluent l'exécution de LLM, la création de bases de données vectorielles pour la génération augmentée par récupération, les techniques RAG avancées, l'optimisation de l'inférence et les stratégies de déploiement. Au cours de cette partie du cours, vous découvrirez le framework LangChain et Pinecone pour les bases de données vectorielles, indispensables à l'intégration et au déploiement de solutions LLM.

Sujets couverts:

1. Exécution de LLM
2. Construire un stockage vectoriel
3. Récupération Génération Augmentée
4. RAG avancé
5. Optimisation de l'inférence
6. Déployer des LLM
7. Sécuriser les LLM

La création, le réglage fin, l'inférence et le déploiement de modèles peuvent être assez complexes, nécessitant la connaissance de divers outils et une attention particulière à l'utilisation de la mémoire GPU et de la RAM. C'est ici que le cours propose une collection complète de cahiers et d'articles qui peuvent servir de références utiles pour mettre en œuvre les concepts abordés. 

Cahiers et articles sur : 

• Outils: Il couvre les outils permettant d'évaluer automatiquement vos LLM, de fusionner des modèles, de quantifier les LLM au format GGUF et de visualiser des modèles de fusion. 
• Réglage fin: Il fournit un bloc-notes Google Colab pour des guides étape par étape sur le réglage fin de modèles comme Llama 2 et l'utilisation de techniques avancées pour l'amélioration des performances. 
• Quantification: Les cahiers de quantification approfondissent l'optimisation des LLM pour plus d'efficacité à l'aide des méthodologies de quantification GPTQ et GGUF 4 bits.

Que vous soyez un débutant cherchant à comprendre les bases ou un praticien chevronné cherchant à rester au courant des dernières recherches et applications, le Cours de LLM est une excellente ressource pour approfondir le monde des LLM. Il fournit un large éventail de ressources, didacticiels, vidéos, cahiers et articles disponibles gratuitement en un seul endroit. Le cours couvre tous les aspects des LLM, des fondements théoriques au déploiement de LLM de pointe, ce qui en fait un cours indispensable pour toute personne souhaitant devenir un expert LLM. De plus, des cahiers et des articles sont inclus pour renforcer les concepts abordés dans chaque section.
 
 

Abid Ali Awan (@1abidaliawan) est un spécialiste des données certifié qui aime créer des modèles d'apprentissage automatique. Actuellement, il se concentre sur la création de contenu et la rédaction de blogs techniques sur les technologies d'apprentissage automatique et de science des données. Abid est titulaire d'une maîtrise en gestion de la technologie et d'un baccalauréat en génie des télécommunications. Sa vision est de créer un produit d'IA utilisant un réseau de neurones graphiques pour les étudiants aux prises avec une maladie mentale.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://www.kdnuggets.com/ree-mastery-course-become-a-large-language-model-expert?utm_source=rss&utm_medium=rss&utm_campaign=free-mastery-course-become-a-large-language-model-expert