Dieses Programm stattet Cybersicherheitsexperten, KI-Ingenieure und Sicherheitsarchitekten mit dem Fachwissen aus, das sie benötigen, um Schwachstellen in generativen KI (GenAI) und großen Sprachmodellen (LLMs) zu identifizieren, zu analysieren und zu entschärfen. Sie beginnen mit der Erforschung der Grundlagen von GenAI-Bedrohungen und untersuchen gängige Angriffsvektoren wie Prompt Injection, Jailbreaks, Modelldiebstahl und gegnerische Manipulation. Anhand praktischer Demonstrationen lernen Sie, wie Angreifer Schwachstellen in KI-gesteuerten Systemen ausnutzen und wie Verteidiger diese Risiken in realen Umgebungen erkennen und darauf reagieren können. Aufbauend auf diesen Grundlagen sammeln Sie praktische Erfahrungen bei der Absicherung von LLM-Anwendungen, der Ausrichtung von Modelloutputs an Sicherheitszielen und der Anwendung von Leitplanken, Wasserzeichen und Methoden zur Sicherheitsbewertung. Sie werden auch mit API-Integrationen auf Plattformen wie Gemini API und Google Colab arbeiten, um sichere Bereitstellungspraktiken zu simulieren und Risiken in Live-Systemen zu minimieren. Als Nächstes befasst sich das Programm mit der Sicherheit von KI-Lebenszyklen und behandelt Strategien zur Sicherung von Trainingsdaten, zur Verhinderung von Vergiftungsangriffen und zum Schutz von KI-Pipelines. Sie erforschen die Modellprovenienz, das Scannen von Abhängigkeiten und sichere Bereitstellungspipelines, um die Integrität von KI-Systemen über die gesamte Lieferkette hinweg zu gewährleisten. Der Kurs legt auch den Schwerpunkt auf KI-Ethik und Compliance, einschließlich der Erkennung von Bias, Fairness bei der Modellentwicklung und globaler regulatorischer Rahmenwerke wie GDPR, CCPA, NIST KI RMF, ISO-Standards und dem EU KI Act. Mithilfe von Tools wie Sola Security üben Sie Auditing, Governance und Risikomanagement, um ethische und gesetzeskonforme KI-Praktiken zu operationalisieren. Schließlich untersuchen Sie grenzüberschreitende Bedrohungen in aufkommenden Bereichen wie multimodale KI und agentenbasierte KI und erforschen gegnerische Angriffe, modusübergreifende Schwachstellen und deren Auswirkungen auf die Cybersicherheit von Unternehmen.

Am Ende dieses Programms werden Sie in der Lage sein: - Angriffsvektoren zu identifizieren und zu bewerten, die auf GenAI und LLMs abzielen; - sicheres Prompt Engineering und Verteidigungsstrategien gegen Prompt Injection und Jailbreaks anzuwenden; - Leitplanken, Sicherheitsmechanismen und Wasserzeichen in LLM-Anwendungen zu entwerfen und zu implementieren. - Schutz von KI-Trainingsdaten, Pipelines und Bereitstellungs-Workflows vor Vergiftungen und Lieferkettenrisiken - Bewertung und Durchsetzung der Compliance mit GDPR, CCPA, NIST, ISO und dem EU-KI-Gesetz - Erkennen und Abschwächen von Grenzbedrohungen in multimodalen und agentenbasierten KI-Systemen - Integration ethischer, transparenter und belastbarer Sicherheitspraktiken über den gesamten KI-Lebenszyklus. Diese Spezialisierung richtet sich an Cybersecurity-Ingenieure, LLM-Entwickler, KI-Sicherheitsspezialisten, ML-Ingenieure und Cloud-/Edge-Sicherheitsarchitekten, die fortgeschrittenes Fachwissen zum Schutz von KI-Systemen aufbauen möchten. Erwerben Sie mit uns die Fähigkeiten, Werkzeuge und Strategien, die erforderlich sind, um KI-Systeme der nächsten Generation gegen sich entwickelnde Bedrohungen zu schützen.