Der Kurs „API-Entwicklung und Modellbereitstellung“ richtet sich an Entwickler, Ingenieure und technische Produktentwickler, die sich noch nicht mit generativer KI auskennen, aber bereits über fortgeschrittene Kenntnisse im Bereich des maschinellen Lernens, grundlegende Python-Kenntnisse und Vertrautheit mit Entwicklungsumgebungen wie VS Code verfügen und offene generative KI-Lösungen entwickeln, anpassen und bereitstellen möchten, ohne dabei in eine Anbieterabhängigkeit zu geraten.

Der Kurs vermittelt den Teilnehmern, wie sie generative KI-Modelle über robuste und skalierbare APIs bereitstellen und zugänglich machen können. Ausgehend von FastAPI entwerfen und implementieren die Teilnehmer REST-Endpunkte für die Modellinferenz, wobei der Schwerpunkt auf Schema-Design, Authentifizierung, Ratenbegrenzung und Fehlerbehandlung liegt. Anschließend wird das Model Context Protocol (MCP) vorgestellt, mit traditionellen API-Ansätzen verglichen und gezeigt, wie Funktionsaufrufe und die Integration von Tools die Modellfähigkeiten erweitern können. Im abschließenden Modul befassen sich die Teilnehmer mit Skalierung und Leistung und wenden dabei Containerisierung mit Docker, asynchrone Anforderungsverarbeitung, Lastenausgleich und Überwachungstechniken an. Praktische Übungen behandeln zudem Tunneling und Fernzugriff mithilfe von ngrok für das schnelle Prototyping. Am Ende des Kurses haben die Teilnehmer eine produktionsreife API mit klarer Dokumentation erstellt, die sowohl REST- als auch MCP-inspirierte Integrationsmuster unterstützt. Damit verfügen sie über die notwendigen Werkzeuge, um generative KI-Anwendungen effizient und zuverlässig bereitzustellen.