Comme l’ont démontré des modèles d’IA tels que Gemini de Google, même les systèmes les plus avancés peuvent présenter des défaillances de sécurité spectaculaires, entraînant une atteinte à l’image de marque et une perte de confiance des utilisateurs. « Safeguard LLM Outputs: Test and Evaluate » est une formation de niveau intermédiaire destinée aux développeurs et aux ingénieurs en apprentissage automatique qui souhaitent aller au-delà des tests fonctionnels et mettre au point une IA véritablement fiable. Ce cours vous enseigne les méthodologies rigoureuses de tests adversariaux que les équipes « Red Teams » professionnelles spécialisées en IA utilisent pour sécuriser les applications à enjeux élevés.

Vous apprendrez à traduire des politiques de sécurité abstraites en tests comportementaux concrets et automatisés à l’aide de pytest, ainsi qu’à concevoir des invites adversariales pour détecter systématiquement les faiblesses. Vous maîtriserez ensuite la pratique consistant à « tester vos tests » à l’aide de frameworks de tests de mutation tels que mutmut, afin de détecter et d’éliminer les failles cachées de votre filet de sécurité. À l’issue de ce cours, vous serez en mesure non seulement de garantir que votre LLM se comporte de manière sûre, mais aussi de prouver que les tests vérifiant cette sécurité sont eux-mêmes exhaustifs et robustes.