Rejoignez notre nouvelle formation courte, Améliorer la précision des applications LLM avec Lamini et Meta. Apprenez de Sharon Zhou, co-fondateur et PDG de Lamini, et Amit Sangani, directeur principal de l'ingénierie des partenaires, Meta. De nombreux développeurs ont été frustrés par des résultats incohérents lorsqu'ils travaillaient avec des applications LLM. Ce cours propose une approche systématique pour améliorer la précision et la fiabilité de vos applications LLM. Vous construirez un agent SQL, ajouterez des métriques d'évaluation pour mesurer la performance, et utiliserez l'ingénierie de requête et l'auto-réflexion pour améliorer la performance du modèle. Enfin, vous affinerez le modèle avec des techniques telles que LoRA et le réglage de la mémoire qui incorpore des faits dans les poids du modèle pour réduire les hallucinations. Dans ce cours, vous utiliserez la famille de modèles Open Source de Llama. Ce que vous ferez :

1. Construire un agent text to SQL et simuler des situations où il a des hallucinations pour commencer le processus d'évaluation. 2. Construire un cadre d'évaluation pour mesurer systématiquement la performance, y compris les critères pour de bonnes évaluations, les meilleures pratiques, et comment développer un score d'évaluation. 3. Apprenez comment le réglage fin des instructions améliore les LLMs pré-entraînés à suivre les instructions, et comment le réglage fin de la mémoire incorpore des faits pour réduire les hallucinations. 4. Briser les mythes sur le réglage fin et voir comment les techniques de réglage fin efficace en termes de performances (PEFT) telles que l'adaptation de faible rang (LoRA) réduisent le temps de formation de 100x et le mélange d'experts en mémoire (MoME) le réduit encore plus. 5. Suivez un processus itératif de génération de données d'entraînement et de réglage fin, en apprenant des astuces pratiques telles que l'ajout d'exemples, la génération de variations et le filtrage des données générées afin d'augmenter la précision du modèle. Commencez à améliorer la précision des applications LLM dès aujourd'hui !