Erkennen, analysieren und beheben Sie die Sicherheitslücken, die bei der Integration von Large Language Models (LLMs) in Produktionsanwendungen entstehen. Dieser Kurs beginnt mit einer Einführung in die Funktionsweise von LLMs in Anwendungen – Tokenisierung, Vorhersage des nächsten Tokens und die Architekturmuster, die die Angriffsfläche bestimmen – und gibt anschließend einen Überblick über reale Anwendungstypen, darunter API-basierte Dienste, Bereitstellungen eingebetteter Modelle und Pipelines zur Orchestrierung mehrerer Modelle. Sie untersuchen das spezifische Sicherheitsprofil jeder Architektur sowie die Kompromisse, die die Entscheidungen zur Bereitstellung beeinflussen.

Das zweite Modul bietet einen systematischen Überblick über LLM-spezifische Schwachstellenkategorien: Prompt-Injection, unsichere Ausgabeverarbeitung, Modelldiebstahl und -replikation durch Destillation, Offenlegung sensibler Informationen, unsicheres Plugin-Design, übermäßige Autonomie sowie Denial-of-Service-Angriffe. Für jede Schwachstelle untersuchen Sie den Angriffsmechanismus, analysieren, warum das Verhalten des LLM eine Ausnutzung ermöglicht, und wenden konkrete Abwehrmuster an, darunter Eingabesanierung, Ausgabevalidierung, Berechtigungsgrenzen und Ratenbegrenzung. In einer abschließenden Abschlussprüfung werden diese Fähigkeiten zu einer durchgängigen Sicherheitsbewertung eines LLM-gestützten Systems zusammengefasst.