Dieses Modul vermittelt die Grundlagen dafür, zu verstehen, wie Java den Speicher in ML-Anwendungen verwaltet und warum die Speicheroptimierung für die Leistung entscheidend ist. Die Teilnehmer befassen sich mit der JVM-Architektur (Heap, Stack, Metaspace), identifizieren speicherintensive Muster, die in ML-Pipelines häufig vorkommen (Merkmalstransformationen, Tensor-Manipulation, Datenvorverarbeitung), und verstehen, wie sich Garbage-Collection-Zyklen auf die Latenz bei der Modellinferenz auswirken. Durch die Einrichtung von Profiling-Tools und praktische Übungen mit realen ML-Workloads lernen die Teilnehmer, grundlegende Speicherkennzahlen zu erfassen und zu interpretieren, häufige Engpässe wie übermäßige Objekterstellung und hohen Garbage-Collection-Overhead zu erkennen sowie ihre Entwicklungsumgebung für eine systematische Speicheranalyse vorzubereiten.

Dieses Modul wendet umfassende Optimierungstechniken an, um produktionsreife, speichereffiziente ML-Systeme zu entwickeln. Die Teilnehmer werden Strategien umsetzen, um den Objekt-Overhead in Datenpipelines durch Buffer-Pooling und primitive Sammlungen (Trove, FastUtil) zu reduzieren, JVM-Parameter für ML-Inferenz-Workloads anzupassen – einschließlich der Heap-Größenbestimmung und der Auswahl von GC-Algorithmen (G1GC, ZGC, Shenandoah) sowie die Optimierung für containerisierte Umgebungen (Docker, Kubernetes). Das Abschlussprojekt führt die Teilnehmer durch eine durchgängige Optimierung eines echten ML-Dienstes – vom Baseline-Profiling über die Korrektur von Datenstrukturen und die GC-Optimierung bis hin zur abschließenden Validierung –, wobei messbare Verbesserungen beim Durchsatz (20–40 %), bei der Latenzreduzierung und beim Speicherbedarf erzielt und gleichzeitig Best Practices für die Überwachung im Produktivbetrieb demonstriert werden.