Comme l'ont montré des modèles d'IA tels que Gemini de Google, même les systèmes les plus avancés peuvent avoir des défaillances de sécurité spectaculaires, entraînant des dommages à la marque et une perte de confiance des utilisateurs. Ce module vous enseigne les méthodologies de test rigoureuses et contradictoires que les équipes rouges d'IA professionnelles utilisent pour sécuriser les applications à fort enjeu. À la fin de ce module, vous serez en mesure non seulement de vous assurer que votre LLM se comporte de manière sûre, mais aussi de prouver que les tests vérifiant cette sécurité sont eux-mêmes complets et robustes.

Si vous avez déjà été confronté au problème du "ça a marché sur ma machine" ou si vous avez eu du mal à reproduire un excellent résultat obtenu il y a plusieurs semaines, ce cours vous fournira les pratiques MLOps fondamentales pour construire un flux de travail véritablement vérifiable et collaboratif. L'objectif principal est de vous permettre de gérer en toute confiance l'ensemble du cycle de vie de l'expérience, en vous assurant que chaque modèle que vous construisez est reproductible, traçable et prêt pour les rigueurs de la production. Pour les apprenants intéressés par l'application de ces compétences MLOps à la prochaine frontière, ce module sert de base parfaite pour des sujets plus avancés.

Les flux de travail modernes de ML impliquent souvent plusieurs étapes complexes - provisionnement d'un GPU, exécution d'un travail d'entraînement et sauvegarde du modèle - qui sont toutes inefficaces à réaliser à la main. Ce module vous apprend à automatiser ce processus de bout en bout à l'aide de Python. À la fin du module, vous serez équipé pour transformer vos processus manuels en nuages en pipelines robustes et automatisés, prêts pour la production.

Dans ce module, vous jouerez le rôle d'un ingénieur chargé de veiller à ce qu'un microservice de résumé alimenté par l'IA soit sûr et fiable. Dans le cadre d'un projet pratique, vous utiliserez Python et pytest pour construire une suite de tests complète qui valide les fonctionnalités et applique les politiques de sécurité. Vous écrirez des tests unitaires pour confirmer le comportement de base de l'API, puis développerez des tests comportementaux critiques pour garantir que le service refuse de générer du contenu nuisible, illicite ou autrement non conforme. Ce module vous permettra d'acquérir les compétences pratiques nécessaires pour affirmer les refus de sécurité, documenter votre stratégie de test et intégrer votre travail dans un pipeline CI afin d'empêcher le code dangereux d'atteindre la production.