Dieses Modul vermittelt ML-Ingenieuren und -Praktikern die betrieblichen Kompetenzen, die erforderlich sind, um LLM-Prototypen in zuverlässige Produktionsdienste zu überführen. Sie werden den Schritt von der „Prompt-Kunst“ zur „Prompt-Wissenschaft“ vollziehen und lernen, Prompt-Muster systematisch zu bewerten und A/B-Tests durchzuführen, wobei Sie ein Gleichgewicht zwischen Antwortqualität, Konsistenz und Token-Kosten herstellen. Der Lehrplan konzentriert sich auf die Erstellung professioneller Betriebsdokumentation, wie beispielsweise Schritt-für-Schritt-Anleitungen für die Aktualisierung von Vektorindizes, einschließlich Validierungsprüfungen und Rollback-Verfahren. Durch die Entwicklung eines „LLMOps Production-Readiness Toolkits“ erwerben Sie das Fachwissen, um datengestützte Entscheidungen zu treffen, die sowohl hohe Leistung als auch Kosteneffizienz in Live-KI-Systemen gewährleisten.

Dieses Modul schlägt eine Brücke zwischen technischer Umsetzung und operativer Exzellenz für ML-Praktiker. Sie werden zwei entscheidende Säulen beherrschen: Kostenoptimierung und Prozessrationalisierung. Zunächst tauchen Sie in die Finanzen von MLOps ein und lernen, Berichte zu Rechenkosten zu analysieren sowie technische Optimierungen wie die INT8-Quantisierung umzusetzen, um den Overhead zu reduzieren. Anschließend wenden Sie Value-Stream-Mapping (VSM) auf ML-Pipelines an und nutzen dabei Tools wie Miro, um Arbeitsabläufe zu visualisieren und manuelle Engpässe zu beseitigen. Am Ende sind Sie in der Lage, automatisierte, zukunftsorientierte Prozesse zu entwerfen, die sicherstellen, dass Ihre LLM-Bereitstellungen schnell, kosteneffizient und geschäftsorientiert sind.

Schlüpfen Sie in die Rolle eines leitenden Analysten, der mit der Überarbeitung eines leistungsschwachen und kostspieligen LLM-Chatbots beauftragt ist. In diesem Modul führen Sie ein umfassendes 360-Grad-Audit durch, um Kernprobleme in den Bereichen Produkt, Leistung und Prozesse zu diagnostizieren. Sie definieren KPIs, führen eine Feature-Gap-Analyse durch, führen Experimente zur Optimierung von Prompt-Strategien durch und nutzen Wertstromanalysen sowie Kostenmodellierung, um Einsparpotenziale und Effizienzsteigerungen zu identifizieren. Auf dieser Grundlage liefern Sie umsetzbare Empfehlungen zur Leistungsverbesserung, Kostensenkung und Schaffung eines hochwertigen Vermögenswerts für Ihr Portfolio.