Der Kurs „Ethik und Sicherheit bei Open AI“ richtet sich an Entwickler, Ingenieure und technische Produktentwickler, die sich noch nicht mit generativer KI auskennen, aber bereits über fortgeschrittene Kenntnisse im Bereich des maschinellen Lernens, grundlegende Python-Kenntnisse und Vertrautheit mit Entwicklungsumgebungen wie VS Code verfügen und die offene generative KI-Lösungen entwickeln, anpassen und bereitstellen möchten, ohne dabei in eine Anbieterabhängigkeit zu geraten.

Der Kurs vermittelt den Teilnehmern die Frameworks und Werkzeuge, die für einen verantwortungsvollen Umgang mit generativen KI-Modellen erforderlich sind. Der Kurs beginnt mit der Erkennung und Minderung von Verzerrungen, wobei die Teilnehmer schädliche Muster in Datensätzen und Ausgaben identifizieren, quantitative Bewertungstechniken anwenden und Strategien zur Minderung umsetzen. Anschließend entwerfen und testen die Teilnehmer Sicherheitsvorkehrungen, darunter Eingabevalidierung, Ausgabefilterung, Inhaltsmoderation und Red-Team-Verfahren, um KI-Systeme gegen Missbrauch zu wappnen. Das abschließende Modul behandelt die Herkunftsnachweisbarkeit von Inhalten, Lizenzierung und Compliance. Dabei wenden die Teilnehmer Wasserzeichen-Techniken an, implementieren Standards zur Herkunftsnachweisbarkeit wie die „Coalition for Content Provenance and Authenticity“ (C2PA) und bewerten Datensätze und Modelle hinsichtlich der Einhaltung von Lizenzbestimmungen. Zudem werden regulatorische Rahmenwerke wie die Datenschutz-Grundverordnung (DSGVO) und der California Consumer Privacy Act (CCPA) vorgestellt. In praktischen Übungen bauen die Teilnehmer Sicherheitsschichten auf, implementieren Metadaten zur Herkunft und erstellen Audit-Dokumentationen, die den Compliance-Anforderungen entsprechen. Am Ende sind die Teilnehmer in der Lage, offene KI-Anwendungen zu entwerfen, bei denen Sicherheit, Fairness und Rechenschaftspflicht im Vordergrund stehen.