Bienvenue dans le module « Entraînement, optimisation et évaluation des grands modèles linguistiques ». Dans ce module, vous approfondirez vos connaissances sur la manière dont les grands modèles linguistiques sont entraînés, optimisés et évalués en termes de performances et de fiabilité. Vous commencerez par comprendre les principes fondamentaux de l’entraînement et de l’optimisation des LLM, notamment comment des ensembles de données massifs et des ressources de calcul sont utilisés pour construire des modèles hautement performants. Le module explore différentes techniques d’apprentissage telles que le « zero-shot », le « few-shot », le « instruction tuning » et l’apprentissage par renforcement à partir de retours d’expérience humains (RLHF), ce qui vous aidera à comprendre comment les modèles s’adaptent à des tâches à partir d’un nombre minimal d’exemples. Vous découvrirez également les fonctions de perte et la manière dont elles guident l’apprentissage des modèles pendant l’entraînement. Le concept d’alignement des LLM est présenté pour expliquer comment les modèles sont ajustés afin de produire des réponses sûres, précises et conformes aux attentes humaines. En ce qui concerne l’évaluation, vous examinerez les indicateurs clés d’évaluation, notamment la perplexité, et comprendrez comment la qualité des modèles est mesurée. Ce module met en évidence le rôle essentiel que jouent les humains dans l’évaluation des résultats et le perfectionnement des modèles, ainsi que l’importance des GPU pour permettre l’entraînement de modèles à grande échelle. À la fin de ce module, vous aurez une solide compréhension de la manière dont les LLM sont entraînés, optimisés, alignés et évalués dans les systèmes d’IA du monde réel.

Bienvenue dans le module « Ingénierie des prompts, réglage fin et architectures avancées des grands modèles linguistiques ». Dans ce module, vous vous concentrerez sur les techniques pratiques permettant de contrôler, d’adapter et d’améliorer les grands modèles linguistiques afin de répondre aux exigences du monde réel. Vous commencerez par l’ingénierie des prompts, en apprenant les principes fondamentaux de leur conception et en découvrant comment leur structure influe directement sur les résultats du modèle. Ce module aborde des techniques éprouvées pour élaborer des prompts efficaces qui améliorent la précision, la qualité du raisonnement et la cohérence des réponses. Une démonstration pratique vous permettra de constater à quel point de légères modifications apportées aux prompts peuvent influencer de manière significative le comportement des LLM. Vous explorerez ensuite les approches de réglage fin des LLM, notamment le réglage des prompts et le réglage fin à efficacité paramétrique (PEFT). Vous comprendrez comment des méthodes efficaces en termes de prompts, telles que le P-Tuning, permettent d’adapter les grands modèles avec un coût de calcul minimal. L’introduction à NVIDIA NeMo vous donnera un aperçu des frameworks utilisés pour personnaliser et optimiser les modèles linguistiques à l’échelle de l’entreprise. Enfin, vous examinerez l’architecture de génération augmentée par la recherche (RAG) et apprendrez comment la combinaison des LLM avec des sources de connaissances externes améliore l’ancrage factuel et les performances spécifiques à un domaine. À l’issue de ce module, vous saurez concevoir des prompts de haute qualité, appliquer des techniques de réglage fin efficaces et tirer parti d’architectures LLM avancées pour mettre en place des solutions d’IA générative évolutives.