Identifier, analyser et se défendre contre les vulnérabilités de sécurité qui apparaissent lorsque de grands modèles de langage (LLM) sont intégrés dans des applications de production. Ce cours commence par expliquer le fonctionnement des LLM dans les applications (symbolisation, prédiction du prochain jeton et modèles architecturaux qui déterminent la surface d'attaque), puis étudie les types d'applications réelles, notamment les services basés sur l'interface de programmation d'applications (API), les déploiements de modèles intégrés et les pipelines d'orchestration multi-modèles. Vous examinerez le profil de sécurité distinct de chaque architecture et les compromis qui façonnent les décisions de déploiement. Le deuxième module fournit un parcours systématique des catégories de vulnérabilités spécifiques au LLM : injection d'invite, gestion de sortie non sécurisée, vol de modèle et réplication par distillation, divulgation d'informations sensibles, conception de plugin non sécurisée, agence excessive, et attaques par déni de service. Pour chaque vulnérabilité, vous étudierez le mécanisme d'attaque, analyserez pourquoi le comportement du LLM le rend exploitable et appliquerez des modèles de défense concrets, notamment la vérification des entrées, la validation des sorties, les limites de permission et la limitation du débit. Une évaluation de synthèse synthétise ces compétences dans une évaluation de sécurité de bout en bout d'un système alimenté par LLM.