Dans ce module, nous visiterons les considérations au niveau de l'infrastructure lors du déploiement de clusters IA. Vous découvrirez les exigences des clusters IA multi-systèmes, telles que les capacités des GPU et CPU NVIDIA à répondre aux exigences des charges de travail d'IA, le stockage et les considérations de mise en réseau. Nous verrons comment les pratiques informatiques économes en énergie aident les centres de données à réduire leur empreinte carbone et comment les documents de conception recommandés, ou architectures de référence (RA), peuvent être utilisés comme base pour construire les meilleurs systèmes d'IA optimisés. Nous terminerons ce module en discutant de la façon dont le cloud computing améliore les déploiements d'IA, en soulignant les considérations clés pour le déploiement de l'IA dans le cloud

Ce dernier module couvre les aspects clés de la gestion de l'infrastructure, de la surveillance, de l'orchestration des clusters et de la planification des tâches. Vous identifierez les concepts généraux relatifs au provisionnement, à la gestion et à la surveillance de l'infrastructure IA, et décrirez la valeur et les outils de gestion des clusters. Enfin, vous découvrirez les principales différences et les outils courants utilisés pour l'orchestration et la planification, ainsi que la valeur des outils MLOps pour la livraison continue et l'automatisation des charges de travail d'IA.

Il est fortement recommandé de terminer toutes les activités du cours avant de commencer le quiz. Nous vous souhaitons bonne chance !