In this course, you will learn to design robust LLM observability plans, build comprehensive evaluation datasets, run repeatable experiments, and implement custom evaluation metrics using Galileo AI. You will master both LLM-as-judge scoring techniques and production monitoring strategies to effectively debug agentic breakdowns in tool use, planning, and retrieval. Designed for machine learning engineers, AI developers, and data scientists, this course bridges the gap between traditional software debugging and LLM-centric systems. You will learn to navigate the unique challenges of AI agents compared to traditional ML, transitioning from basic single-call applications to complex multi-step agents. Through hands-on exercises with Galileo AI, you will instrument real applications, configure automated alerts, and set up production dashboards to monitor performance. By the end of this course, you will possess the specialized skills needed to prevent regressions, reduce evaluator bias, and deploy production-grade, safe, and highly reliable LLM applications.

LLM AI Agent Evaluations and Observability with Galileo AI
Développez des compétences très recherchées grâce à un abonnement d'un an à Coursera Plus, désormais à 239 $. Profitez-en dès maintenant.

LLM AI Agent Evaluations and Observability with Galileo AI

Instructeur : Henry Habib
Inclus avec En savoir plus
Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Débutant
Expérience recommandée
1 semaine à compléter
à 10 heures par semaine
Planning flexible
Apprenez à votre propre rythme
Ce que vous apprendrez
Design and implement robust LLM observability plans to capture traces, spans, tool calls, and metadata using Galileo AI.
Build comprehensive evaluation datasets and apply LLM-as-judge scoring with rubrics to run repeatable model experiments.
Debug complex multi-step agent failures and set up production monitoring dashboards with automated regression alerts.
Compétences que vous acquerrez
- Catégorie : Agentic Workflows
- Catégorie : Model Evaluation
- Catégorie : Development Testing
- Catégorie : Prompt Engineering
- Catégorie : Continuous Monitoring
- Catégorie : Development Environment
- Catégorie : Tool Calling
- Catégorie : Data Capture
- Catégorie : LLM Application
- Catégorie : Debugging
- Catégorie : Test Data
- Catégorie : Agentic systems
- Catégorie : Test Case
Outils que vous découvrirez
- Catégorie : Generative AI Agents
Détails à connaître

Certificat partageable
Ajouter à votre profil LinkedIn
Récemment mis à jour !
novembre 2026
Évaluations
8 devoirs
Enseigné en Anglais
Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

Il y a 10 modules dans ce cours
Instructeur

Offert par
Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.
Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.
Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.
Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.
’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’
Qu’est-ce qui vous amène sur Coursera aujourd’hui ?
Foire Aux Questions
Plus de questions
Aide financière disponible,




