« Évaluer et optimiser les performances des applications LLM » est un parcours pratique qui vous mènera de « ça marche » à « ça file à toute allure ». Vous commencerez par considérer la vitesse et le coût comme des fonctionnalités du produit : vous définirez une base de référence à l’aide des indicateurs appropriés (latence p50/p95, tokens/sec, débit, déterminisme, coût par tâche) et vous développerez un cadre de benchmarking léger que vous pourrez réexécuter à chaque modification. Ensuite, vous apprendrez à repérer les goulots d’étranglement à tous les niveaux de la pile (réseau, modèle, prompt et post-traitement) à l’aide de techniques pratiques permettant de réduire le nombre de tokens sans compromettre la qualité, ainsi que des stratégies de mise en cache pour les embeddings, le RAG et les appels d’outils. Vous mènerez ensuite des expériences A/B/C pour comparer des modèles et des prompts sur un même ensemble de données, interpréterez les résultats à l’aide de statistiques simples et choisirez un gagnant en toute confiance. Enfin, vous préparerez votre solution pour la production en mettant en place des limites de concurrence, des files d’attente, des délais d’expiration, des solutions de repli et un guide d’optimisation sur 30 jours. Attendez-vous à des modèles réutilisables, des listes de contrôle claires et des démonstrations réalistes conçues pour les développeurs et les créateurs de produits très occupés qui recherchent des gains mesurables, et non du battage médiatique.

Cette formation s’adresse aux ingénieurs en apprentissage automatique, aux développeurs en IA, aux data scientists et aux ingénieurs produit qui souhaitent optimiser et faire évoluer des applications basées sur des LLM pour des environnements de production. Elle est également idéale pour les ingénieurs backend et les professionnels DevOps qui cherchent à améliorer les performances du système, à réduire la latence et à optimiser la rentabilité des déploiements d’IA. De plus, les chefs de produit et les responsables techniques supervisant des systèmes alimentés par l’IA tireront profit des conseils pratiques fournis, qui les aideront à améliorer les performances des applications et à s’assurer que leurs modèles LLM fournissent des résultats fiables et de haute qualité à grande échelle. Cette formation nécessite des connaissances de base en Python ou JavaScript, une bonne maîtrise des API REST et une compréhension globale du fonctionnement des grands modèles linguistiques (LLM). Ces compétences vous aideront à assimiler efficacement le contenu de la formation, à optimiser les performances et à mettre en œuvre des solutions. À l’issue de cette formation, vous disposerez des compétences nécessaires pour optimiser les performances des LLM, surmonter les goulots d’étranglement rencontrés en situation réelle et mettre en œuvre des systèmes d’IA efficaces et évolutifs. Vous serez prêt à appliquer ces techniques en toute confiance, afin de rendre vos solutions d’IA plus rapides, plus fiables et prêtes à être déployées en production !