Coursera

Automatisation et sécurisation des déploiements de modèles de langage à grande échelle (LLM)

Obtenez l'une de nos meilleures offres avec Coursera Plus pour 199 $ (habituellement 399 $). Économisez maintenant.

Coursera

Automatisation et sécurisation des déploiements de modèles de langage à grande échelle (LLM)

Starweaver
Ritesh Vajariya

Instructeurs : Starweaver

Inclus avec Coursera Plus

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Intermédiaire

Expérience recommandée

5 heures à compléter
Planning flexible
Apprenez à votre propre rythme
Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Intermédiaire

Expérience recommandée

5 heures à compléter
Planning flexible
Apprenez à votre propre rythme

Ce que vous apprendrez

  • Concevoir des pipelines CI/CD automatisés pour les déploiements de LLM en utilisant la conteneurisation et l'infrastructure en tant que code.

  • Appliquer les meilleures pratiques en matière de sécurité, notamment la protection des API, la prévention des injections rapides et les cadres de sécurité.

  • Configurer la surveillance de la production, la mise à l'échelle automatique et l'optimisation des coûts pour les systèmes LLM d'entreprise.

Compétences que vous acquerrez

  • Catégorie : CI/CD
  • Catégorie : Sécurité des entreprises
  • Catégorie : Surveillance du système
  • Catégorie : Déploiement dans le nuage
  • Catégorie : DevSecOps
  • Catégorie : DevOps
  • Catégorie : Infrastructure as Code (IaC)
  • Catégorie : Déploiement des applications
  • Catégorie : Gestion de l'informatique en nuage
  • Catégorie : Sécurité de l'IA
  • Catégorie : Candidature au LLM

Outils que vous découvrirez

  • Catégorie : Amazon CloudWatch
  • Catégorie : Déploiement du modèle
  • Catégorie : Docker (Logiciel)

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Évaluations

1 devoir

Enseigné en Anglais

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

 logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Élaborez votre expertise du sujet

Ce cours fait partie de la Spécialisation "Créer des applications LLM de nouvelle génération avec LangChain et LangGraph"
Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.
  • Apprenez de nouveaux concepts auprès d'experts du secteur
  • Acquérez une compréhension de base d'un sujet ou d'un outil
  • Développez des compétences professionnelles avec des projets pratiques
  • Obtenez un certificat professionnel partageable

Il y a 3 modules dans ce cours

Construisez des pipelines CI/CD automatisés pour les applications LLM en utilisant des actions GitHub, la conteneurisation Docker et des stratégies de déploiement bleu-vert. Vous configurerez des flux de travail qui construisent automatiquement des images de conteneurs, les analysent pour détecter les vulnérabilités et les déploient sans interruption de service. Grâce à la pratique, vous transformerez les processus de déploiement manuels en une automatisation fiable qui construit, analyse, pousse et déploie des applications LLM dans des environnements de production.

Inclus

4 vidéos2 lectures1 évaluation par les pairs

Mettez en œuvre des contrôles de sécurité complets pour les API LLM de production à l'aide de la Gestion des identités et des accès, de la gestion des secrets et de l'analyse automatisée de la sécurité. Vous configurerez des rôles IAM à moindre privilège, configurerez des ARN secrets sécurisés pour les clés d'API et les informations d'identification, et exécuterez des analyses Trivy pour confirmer l'absence de résultats critiques en matière de sécurité. Le module couvre les problèmes de sécurité spécifiques au LLM, y compris la prévention de l'injection rapide, la limitation du débit et l'enregistrement d'audit pour les exigences de conformité

Inclus

3 vidéos1 lecture1 évaluation par les pairs

Assurez la fiabilité de la production et la rentabilité en mettant en œuvre une surveillance complète, des stratégies de rollback automatisées et des techniques d'optimisation des coûts pour les systèmes LLM. Vous créerez des alarmes CloudWatch pour suivre les mesures critiques, simulerez des pics de latence pour vérifier les règles de retour en arrière automatisées et configurerez des politiques de mise à l'échelle automatique qui gèrent les variations de trafic. Le module couvre également les stratégies d'optimisation des coûts, notamment la mise en cache des réponses, le routage intelligent des modèles et la gestion des ressources pour réduire les dépenses d'exploitation

Inclus

4 vidéos1 lecture1 devoir2 évaluations par les pairs

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeurs

Starweaver
Coursera
571 Cours1 151 800 apprenants

Offert par

Coursera

En savoir plus sur Développement de logiciels

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Foire Aux Questions