Coursera

Spécialisation "LLM Optimization & Evaluation"

La Fête du Travail commence avec plus de 70 $ d'économies sur Coursera Plus. Bénéficiez de 40 % de réduction pendant 3 mois.

Coursera

Spécialisation "LLM Optimization & Evaluation"

Optimize & Deploy Production-Ready LLM Systems.

Build expertise in LLM evaluation, optimization, and deployment through hands-on MLOps projects.

John Whitworth
Professionals in the Industry

Instructeurs : John Whitworth

1 638 déjà inscrits

Inclus avec Coursera PlusEn savoir plus

Approfondissez votre connaissance d’un sujet
niveau Intermédiaire

Expérience recommandée

4 semaines à compléter
à 10 heures par semaine
Planning flexible
Apprenez à votre propre rythme
Approfondissez votre connaissance d’un sujet
niveau Intermédiaire

Expérience recommandée

4 semaines à compléter
à 10 heures par semaine
Planning flexible
Apprenez à votre propre rythme

Ce que vous apprendrez

  • Evaluate and optimize LLM performance using statistical testing, MLOps tools, and production monitoring systems.

  • Build automated pipelines for feature engineering, experiment tracking, and data processing with industry-standard tools.

  • Diagnose LLM errors, implement safety frameworks, and reduce operational costs through systematic analysis.

Compétences que vous acquerrez

  • Catégorie : Technical Communication
  • Catégorie : Root Cause Analysis
  • Catégorie : Extract, Transform, Load
  • Catégorie : Large Language Modeling
  • Catégorie : Performance Tuning
  • Catégorie : Statistical Analysis
  • Catégorie : Model Optimization
  • Catégorie : Data Pipelines
  • Catégorie : Version Control
  • Catégorie : MLOps (Machine Learning Operations)
  • Catégorie : Prompt Patterns
  • Catégorie : LLM Application
  • Catégorie : Technical Documentation
  • Catégorie : User Acceptance Testing (UAT)
  • Catégorie : Scripting
  • Catégorie : Fine-tuning
  • Catégorie : SQL
  • Catégorie : Data Presentation
  • Catégorie : AI Security

Outils que vous découvrirez

  • Catégorie : Apache Airflow
  • Catégorie : Python Programming

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Enseigné en Anglais

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

 logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Améliorez votre expertise en la matière

  • Acquérez des compétences recherchées auprès d’universités et d’experts du secteur
  • Maîtrisez un sujet ou un outil avec des projets pratiques
  • Développez une compréhension approfondie de concepts clés
  • Obtenez un certificat professionnel auprès de Coursera

Spécialisation - série de 13 cours

Engineer Features and Evaluate Models for Production

Engineer Features and Evaluate Models for Production

COURS 1, 3 heures

Ce que vous apprendrez

  • Build feature engineering pipelines and evaluate ML experiments using MLOps tools to select and deploy production-ready models.

Compétences que vous acquerrez

Catégorie : Model Evaluation
Catégorie : Technical Writing
Catégorie : Feature Engineering
Catégorie : Analysis
Catégorie : Model Optimization
Catégorie : Data Pipelines
Catégorie : Performance Analysis
Catégorie : Model Training
Catégorie : Model Deployment
Catégorie : Data Preprocessing
Catégorie : MLOps (Machine Learning Operations)
Catégorie : Data Transformation
Catégorie : Machine Learning Methods
Optimize Deep Learning: Tune PyTorch Models

Optimize Deep Learning: Tune PyTorch Models

COURS 2, 4 heures

Ce que vous apprendrez

  • Use PyTorch Lightning to implement callbacks, diagnose instabilities, and optimize model performance.

Compétences que vous acquerrez

Catégorie : Model Training
Catégorie : Fine-tuning
Catégorie : Debugging
Catégorie : PyTorch (Machine Learning Library)
Catégorie : MLOps (Machine Learning Operations)
Catégorie : Transfer Learning
Catégorie : Artificial Neural Networks
Catégorie : Deep Learning
Catégorie : Model Deployment
Catégorie : Performance Tuning
Catégorie : Scalability
Catégorie : Model Optimization
Evaluate & Optimize LLM Performance

Evaluate & Optimize LLM Performance

COURS 3, 4 heures

Ce que vous apprendrez

  • Evaluate LLMs using metrics like BLEU & ROUGE run A/B tests for statistical significance, and optimize model performance with data-driven strategies.

Compétences que vous acquerrez

Catégorie : Statistical Methods
Catégorie : Model Evaluation
Catégorie : Statistical Inference
Catégorie : Test Script Development
Catégorie : Statistical Analysis
Catégorie : Large Language Modeling
Catégorie : Statistical Hypothesis Testing
Catégorie : LLM Application
Catégorie : Probability & Statistics
Catégorie : Scripting
Catégorie : Performance Metric
Catégorie : Prompt Engineering
Catégorie : Data-Driven Decision-Making
Catégorie : Embeddings
Catégorie : Model Optimization
Catégorie : Natural Language Processing
Analyze Logs: Fix LLM Hallucinations

Analyze Logs: Fix LLM Hallucinations

COURS 4, 4 heures

Ce que vous apprendrez

  • Use data analysis to diagnose LLM hallucinations by correlating user behavior and system errors, and document findings to guide engineering fixes.

Compétences que vous acquerrez

Catégorie : Analysis
Catégorie : Artificial Intelligence
Catégorie : Technical Communication
Catégorie : Retrieval-Augmented Generation
Catégorie : Business Metrics
Catégorie : Large Language Modeling
Catégorie : Correlation Analysis
Catégorie : LLM Application
Catégorie : Data Manipulation
Catégorie : Data Analysis
Catégorie : Root Cause Analysis
Catégorie : Debugging
Catégorie : Generative AI
Catégorie : Pandas (Python Package)
Evaluate LLMs: Test and Prove Significance

Evaluate LLMs: Test and Prove Significance

COURS 5, 3 heures

Ce que vous apprendrez

  • Rigorously evaluate LLM performance using statistical tests and confidence intervals to make data-driven deployment decisions.

Compétences que vous acquerrez

Catégorie : Model Evaluation
Catégorie : Statistical Visualization
Catégorie : Matplotlib
Catégorie : Performance Metric
Catégorie : Statistical Inference
Catégorie : Model Deployment
Catégorie : Statistical Programming
Catégorie : Statistical Hypothesis Testing
Catégorie : Statistical Methods
Catégorie : Experimentation
Catégorie : Statistics
Catégorie : Data Presentation
Catégorie : Statistical Software
Catégorie : Statistical Analysis
Catégorie : Data Storytelling
Catégorie : Data-Driven Decision-Making
Catégorie : Large Language Modeling
Catégorie : Scientific Visualization
Optimize SQL: Build Fast Data Pipelines

Optimize SQL: Build Fast Data Pipelines

COURS 6, 3 heures

Ce que vous apprendrez

  • Parameterized SQL with CTEs and window functions builds scalable, maintainable pipelines that adapt as business needs change.

  • Query optimization is systematic: analyze execution plans, find costly steps, then resolve them with indexing or rewrites.

  • Materialized summary tables and well-timed processing, like morning refreshes, support reliable analytics infrastructure.

  • Understanding execution internals helps analysts build self-sufficient workflows without recurring engineering delays.

Compétences que vous acquerrez

Catégorie : SQL
Catégorie : Performance Tuning
Catégorie : Extract, Transform, Load
Catégorie : Database Management
Catégorie : Data Manipulation
Catégorie : Data Transformation
Catégorie : Scripting
Catégorie : Data Pipelines
Safeguard LLM Outputs: Test and Evaluate

Safeguard LLM Outputs: Test and Evaluate

COURS 7, 3 heures

Ce que vous apprendrez

  • Build and validate a robust safety testing framework for LLMs. Create behavioral test suites and use mutation testing to ensure their effectiveness.

Compétences que vous acquerrez

Catégorie : Security Testing
Catégorie : Code Coverage
Catégorie : Test Case
Catégorie : Quality Assessment
Catégorie : Model Evaluation
Catégorie : Responsible AI
Catégorie : AI Security
Catégorie : Maintainability
Catégorie : Prompt Engineering
Catégorie : Test Tools
Catégorie : Software Testing
Catégorie : LLM Application
Catégorie : Large Language Modeling
Catégorie : Verification And Validation
Catégorie : Software Technical Review
Catégorie : Testability
Catégorie : Prompt Patterns
Catégorie : Test Script Development
Catégorie : Unit Testing
Catégorie : Threat Modeling
Track and Evaluate ML Model Experiments

Track and Evaluate ML Model Experiments

COURS 8, 3 heures

Ce que vous apprendrez

  • Track, version, and evaluate ML experiments using DVC and W&B to reliably select and prepare models for production deployment.

Compétences que vous acquerrez

Catégorie : Version Control
Catégorie : MLOps (Machine Learning Operations)
Catégorie : Model Evaluation
Catégorie : Record Keeping
Catégorie : Interactive Data Visualization
Catégorie : Dashboard
Catégorie : Machine Learning
Catégorie : Predictive Modeling
Catégorie : Model Training
Catégorie : Performance Analysis
Catégorie : Data Management
Catégorie : Model Deployment
Catégorie : Large Language Modeling
Automate Cloud Workflows with Python Scripting

Automate Cloud Workflows with Python Scripting

COURS 9, 1 heure

Ce que vous apprendrez

  • Create automated Python scripts to manage multi-step cloud workflows, from provisioning resources to persisting data.

Compétences que vous acquerrez

Catégorie : Scripting
Catégorie : AI Workflows
Catégorie : Data Persistence
Catégorie : Virtual Machines
Catégorie : Data Pipelines
Catégorie : Python Programming
Catégorie : Command-Line Interface
Catégorie : Infrastructure as Code (IaC)
Automate Data Pipelines: Schema Evolution

Automate Data Pipelines: Schema Evolution

COURS 10, 2 heures

Ce que vous apprendrez

  • Build automated data pipelines with Apache Airflow, manage schema evolution to prevent failures, and implement monitoring for data integrity.

Compétences que vous acquerrez

Catégorie : Data Integrity
Catégorie : Apache Airflow
Catégorie : Data Pipelines
Catégorie : Data Validation
Catégorie : Data Transformation
Catégorie : Data Quality
Catégorie : Extract, Transform, Load
Catégorie : System Monitoring
Catégorie : Data Modeling
Catégorie : Continuous Monitoring
Develop and Evaluate LLM Features Effectively

Develop and Evaluate LLM Features Effectively

COURS 11, 3 heures

Ce que vous apprendrez

  • Translate an LLM product concept into a detailed PRD and create a UAT plan to validate that the delivered feature meets user requirements.

Compétences que vous acquerrez

Catégorie : User Acceptance Testing (UAT)
Catégorie : Key Performance Indicators (KPIs)
Catégorie : Functional Requirement
Catégorie : User Requirements Documents
Catégorie : Verification And Validation
Catégorie : Acceptance Testing
Catégorie : AI Product Strategy
Catégorie : Product Requirements
Catégorie : Prioritization
Catégorie : Large Language Modeling
Catégorie : LLM Application
Catégorie : Functional Testing
Catégorie : Business Requirements
Catégorie : Test Planning
Catégorie : Requirements Analysis
Catégorie : User Story
Document and Evaluate LLM Prompting Success

Document and Evaluate LLM Prompting Success

COURS 12, 2 heures

Ce que vous apprendrez

  • Create operational run-books for LLM systems and evaluate prompt patterns to improve performance and reduce operational costs.

Compétences que vous acquerrez

Catégorie : Prompt Engineering
Catégorie : Prompt Patterns
Catégorie : Token Optimization
Catégorie : LLM Application
Catégorie : Technical Documentation
Catégorie : Model Optimization
Catégorie : Requirements Analysis
Catégorie : Configuration Management
Catégorie : Retrieval-Augmented Generation
Catégorie : Performance Testing
Catégorie : Large Language Modeling
Catégorie : Benchmarking
Catégorie : Technical Writing
Catégorie : MLOps (Machine Learning Operations)
Catégorie : Performance Tuning
Catégorie : Data Maintenance
Optimize LLM Costs & Streamline Processes

Optimize LLM Costs & Streamline Processes

COURS 13, 2 heures

Ce que vous apprendrez

  • Optimize LLM costs by analyzing spend reports and streamline ML pipelines using value-stream mapping to boost efficiency and reduce cycle times.

Compétences que vous acquerrez

Catégorie : Process Improvement and Optimization
Catégorie : Model Optimization
Catégorie : Process Analysis
Catégorie : Collaborative Software
Catégorie : Proposal Development
Catégorie : Process Optimization
Catégorie : Miro AI
Catégorie : Operating Cost
Catégorie : Business Workflow Analysis
Catégorie : LLM Application
Catégorie : Process Modeling
Catégorie : Cost Management
Catégorie : Productivity Software
Catégorie : AI Workflows
Catégorie : Lean Manufacturing
Catégorie : Data-Driven Decision-Making
Catégorie : Waste Minimization

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeurs

John Whitworth
29 Cours4 580 apprenants
Professionals in the Industry
276 Cours47 769 apprenants

Offert par

Coursera

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Foire Aux Questions