Il est toujours crucial d'aborder et de contrôler les questions de sécurité et de qualité dans vos applications. La construction d'applications LLM pose des défis particuliers. Dans ce cours, vous explorerez les nouveaux indicateurs et les meilleures pratiques pour surveiller vos systèmes LLM et garantir la sécurité et la qualité. Vous apprendrez à :

1. Identifier les hallucinations avec des méthodes comme SelfCheckGPT. 2. Détecter les jailbreaks (invites qui tentent de manipuler les réponses LLM) en utilisant l'analyse des sentiments et des modèles de détection de toxicité implicite. 3. Identifier les fuites de données à l'aide de la reconnaissance d'entités et de l'analyse de la similarité des vecteurs. 4. Construire votre propre système de surveillance pour évaluer la sécurité des applications au fil du temps. À l'issue de ce cours, vous serez en mesure d'identifier les problèmes de sécurité courants dans les applications basées sur le LLM et de personnaliser vos outils d'évaluation de la sécurité en fonction du LLM que vous utilisez pour votre application.