Ce module pose les bases nécessaires pour comprendre comment Java gère la mémoire dans les applications d'apprentissage automatique et pourquoi l'optimisation de la mémoire est essentielle pour les performances. Les apprenants exploreront l'architecture de la JVM (heap, pile, métaspace), identifieront les schémas gourmands en mémoire courants dans les pipelines d'apprentissage automatique (transformations de caractéristiques, manipulation de tenseurs, prétraitement des données) et comprendront comment les cycles de collecte des déchets influent sur la latence d'inférence des modèles. Grâce à la configuration d’outils de profilage et à des exercices pratiques sur des charges de travail réelles de ML, les étudiants apprendront à collecter et à interpréter les indicateurs de mémoire de base, à reconnaître les goulots d’étranglement courants tels que la création excessive d’objets et la surcharge liée aux collectes de mémoire, et à préparer leur environnement de développement pour une analyse systématique de la mémoire.

Ce module met en œuvre des techniques d’optimisation complètes pour développer des systèmes d’apprentissage automatique prêts pour la production et économes en mémoire. Les apprenants mettront en œuvre des stratégies visant à réduire la surcharge liée aux objets dans les pipelines de données grâce au regroupement dans des tampons et à l’utilisation de collections de primitives (Trove, FastUtil), régleront les paramètres de la JVM pour les charges de travail d’inférence d’apprentissage automatique, notamment le dimensionnement du tas et le choix de l’algorithme de ramasse-miettes (G1GC, ZGC, Shenandoah), et d’optimiser les environnements conteneurisés (Docker, Kubernetes). Le projet de fin de formation guide les étudiants à travers une optimisation de bout en bout d’un service d’apprentissage automatique réel — depuis le profilage de référence jusqu’à la validation finale, en passant par la correction des structures de données et le réglage du ramasse-miettes —, permettant d’obtenir des améliorations mesurables en termes de débit (20 à 40 %), de réduction de la latence et d’empreinte mémoire, tout en illustrant les meilleures pratiques en matière de surveillance en production.