Die Integration von KI in kritische Infrastrukturen und industrielle Systeme eröffnet neue Angriffsmöglichkeiten. In diesem Modul wird untersucht, wie künstliche Intelligenz die Sicherheit in industriellen Steuerungssystemen (ICS) und der Betriebstechnik (OT) verändert. Sie befassen sich mit KI-Anwendungen in ICS/OT, die zwar die Effizienz steigern, aber auch neue Schwachstellen und Angriffsvektoren in kritischen Infrastrukturen mit sich bringen. Anhand von Fallstudien untersuchen Sie, wie Angreifer KI in industriellen Umgebungen ausnutzen. Sie lernen, traditionelle OpSec- und DevSecOps-Verfahren an KI-gestützte Implementierungen anzupassen. Sie identifizieren sensible Komponenten innerhalb von KI-Pipelines und wenden kontextspezifische Abwehrmaßnahmen an. Sie lernen, wie Sie die KI-gestützte Industrie schützen können.

Mit der zunehmenden Verbreitung von KI-Systemen steigt auch die Anfälligkeit für böswillige Angriffe und Missbrauch. Dieses Modul befasst sich damit, wie KI angegriffen und ausgenutzt wird – ein zentraler Schwerpunkt für Cybersicherheitsexperten. Sie beschäftigen sich eingehend mit KI-spezifischen Angriffsvektoren: Modellvergiftung, Informationslecks, Modelldiebstahl und Backdoor-Exploits. Diese Bedrohungen beeinträchtigen die KI-Leistung und stellen Risiken für den Datenschutz, geistiges Eigentum und die Sicherheit der Nutzer dar. Untersuchen Sie schädliche KI-Ergebnisse, die auf verzerrten Daten oder Manipulationen beruhen. Erfahren Sie, wie die Ausrichtung der Ergebnisse, ethische Zensur und KI-gestützte Überwachung das Vertrauen der Öffentlichkeit und die Einhaltung gesetzlicher Vorschriften beeinflussen. Analysieren Sie Fallstudien, um Schwachstellen in KI-Systemen zu identifizieren und die gesellschaftlichen Folgen unsicherer Implementierungen zu verstehen. Stellen Sie sicher, dass KI die Welt sicher und verantwortungsbewusst gestaltet.

Der Schutz von KI-Systemen vor neuen Bedrohungen ist von entscheidender Bedeutung. In diesem Modul werden technische Kontrollmaßnahmen und Teststrategien zur Absicherung von KI-Modellen behandelt. Sie lernen, KI-spezifische Abwehrmaßnahmen anzuwenden – vom sicheren Algorithmusdesign bis hin zu datenschutzfördernden Techniken wie der differentiellen Privatsphäre. Sie untersuchen, wie sich die Robustheit von KI-Modellen mithilfe von „Red-, Purple- und Blue-Teaming“-Ansätzen testen und validieren lässt. Konzentrieren Sie sich auf die Abwägung von Sicherheit, Nutzen und Leistung, um fundierte Kompromisse zu finden. Erwerben Sie praktische Fähigkeiten zur Implementierung vertrauenswürdiger Kontrollmaßnahmen und zur gründlichen Prüfung der Widerstandsfähigkeit gegenüber realen Bedrohungen – ganz gleich, ob Sie KI-Systeme entwickeln oder prüfen.

Angesichts der zunehmenden Verbreitung von KI-Systemen sind verantwortungsbewusste Gestaltung, Einsatz und Steuerung unerlässlich. Dieses Modul stellt die Grundsätze verantwortungsbewusster KI vor: Fairness, Verringerung von Verzerrungen, Transparenz und ethische Rechenschaftspflicht. Sie werden untersuchen, wie sich KI-Entscheidungen auf Einzelpersonen und Gemeinschaften auswirken, und dabei Abwägungen zwischen Datenschutz, Modellleistung und Transparenz treffen. Sie setzen sich mit Herausforderungen wie der Datenbeschaffung, der Datenkennzeichnung und den ethischen Implikationen groß angelegter Modelle auseinander. Sie lernen praktische Strategien kennen, um das Vertrauen in KI-Systeme zu stärken. Sie tauchen in globale Rahmenwerke, Richtlinien und Governance-Modelle ein, die eine sichere und ethische Einführung von KI unterstützen. Sie stellen sicher, dass KI-Systeme funktionsfähig, fair und transparent sind und den regulatorischen Erwartungen entsprechen.

Die KI entwickelt sich rasant weiter und bringt damit zunehmende Sicherheitsherausforderungen mit sich. In diesem Modul wird untersucht, wie neue Anwendungen und Architekturen die Zukunft der KI-Sicherheit prägen werden. Sie werden plausible Einsatzmöglichkeiten der KI im Gesundheitswesen, bei autonomen Fahrzeugen und in der Programmierung erkunden und dabei die damit verbundenen spezifischen Risiken beleuchten. Wir stellen die Allgemeine Künstliche Intelligenz (AGI) vor, ihr transformatives Potenzial sowie ihre tiefgreifenden sicherheitstechnischen und ethischen Implikationen. Von einfachen KI-Modellen bis hin zu philosophischen Sicherheitsabwägungen fördert dieses Modul kritisches und proaktives Denken. Erlangen Sie Einblicke und Weitsicht, um zukünftige Risiken zu antizipieren, verantwortungsvolle Innovationen zu beeinflussen und zur sicheren Weiterentwicklung intelligenter Systeme beizutragen.