In dieser Woche wird betont, dass Prompts und Sampling das Verhalten steuern, ohne das zugrunde liegende Modell zu verändern. Durch einen kurzen Rückblick auf frühere Konzepte wie Transformer und multimodale generative Architekturen ordnen die Lernenden das Thema Prompts in den breiteren Kontext der KI ein, wobei der Fokus weiterhin auf der praktischen Steuerung liegt. Die Woche endet mit einer zentralen Frage: Wenn Nutzer das Verhalten zum Zeitpunkt der Inferenz so effektiv beeinflussen können, wie lernt das Modell dann überhaupt, was „gutes“ Verhalten ist? Diese Frage leitet direkt zur Erkundung der Themen Training, bestärkendes Lernen und Feinabstimmung in der nächsten Woche über.

Im Mittelpunkt dieser Woche stehen das verstärkende Lernen anhand von menschlichem Feedback (RLHF) und Evaluator-Modelle als Mechanismen zur Kodierung von Präferenzen, Ausrichtung und Stil in generativen Systemen. Die Teilnehmer untersuchen, wie Feedback das Modellverhalten prägt, warum RLHF so effektiv ist und warum es auch zu Problemen wie Halluzinationen und einer Fehlausrichtung der Belohnungen beitragen kann. Zum Abschluss der Woche richtet sich die Aufmerksamkeit wieder auf die Inferenzphase: Es wird der Frage nachgegangen, wie strukturierte Eingabeaufforderungen und zusätzliche Rechenleistung es Modellen ermöglichen können, ohne erneutes Training zu argumentieren, Ergebnisse zu überarbeiten und zu verfeinern – und damit die Grundlage für die Untersuchung von Argumentationsgerüsten und Gedankengängen in der folgenden Woche zu schaffen.

In dieser Woche liegt der Schwerpunkt auf Rechenvorgängen zur Inferenz und Denkstrukturen wie der „Chain-of-Thought“-Methode und schrittweisen Eingabeaufforderungen. Dabei wird hervorgehoben, wie große Kontextfenster es Modellen ermöglichen, „auf der Seite zu denken“. Anstatt eine einzige Antwort zu liefern, können Modelle das Kontextfenster mit Zwischenschritten füllen, was ihnen Feedback zu ihrer eigenen Argumentation ermöglicht und die Genauigkeit bei komplexen Aufgaben verbessert. In dieser Woche wird betont, dass dieser Prozess weder mit Lernen noch mit Parameteraktualisierungen verbunden ist. Stattdessen entsteht das Schlussfolgern aus der Struktur, zusätzlichem Kontext und der Fähigkeit, frühere Schritte innerhalb derselben Eingabeanweisung erneut zu betrachten. Die Lernenden untersuchen, wie Selbstkritik, Überarbeitung und iterative Eingabeanweisungen große Kontextfenster nutzen, um die Ergebnisse ohne erneutes Training zu verfeinern. Die Woche endet mit einem Wechsel von individuellen Schlussfolgerstrategien hin zu einem umfassenderen Vergleich. So werden die Lernenden darauf vorbereitet, zu untersuchen, wie verschiedene Modelle bei unterschiedlichen Aufgaben Schlussfolgerungen ziehen, sich spezialisieren und Leistung erbringen – was direkt in die Auseinandersetzung mit Open-Source-Modellen, „Mixture-of-Experts“-Architekturen und der systematischen Bewertung in der folgenden Woche überleitet.

In dieser Woche werden das Open-Source-Modell-Ökosystem und „Mixture of Experts“-Architekturen vorgestellt. Anhand von Modellen wie Mistral wird veranschaulicht, wie Spezialisierung und Routing die Leistung verbessern können, ohne auf ein einziges monolithisches Modell angewiesen zu sein. Die Lernenden verknüpfen diese Ideen mit früheren Diskussionen zum Thema Feinabstimmung und erkennen, wie unterschiedliche Ansätze das Verhalten und die Leistungsfähigkeit auf sich ergänzende Weise beeinflussen. Anschließend widmet sich die Woche den Themen Bewertung und Benchmarking als wesentliche Methoden zum Verständnis der Stärken, Grenzen und Kompromisse von Modellen. Die Lernenden untersuchen die Geschichte des Benchmarkings, um zu erkennen, wie schnell sich wegweisende Modelle weiterentwickelt haben – von der Übertreffung von Benchmarks auf Grundschulniveau bis hin zur Überwindung von Leistungen auf Expertenniveau in Kombination mit entsprechenden Tools. Konzepte wie Alignment, Alignment-Drift und Reward-Hacking werden anhand von Beispielen, darunter Goodharts Gesetz, vorgestellt, um zu verdeutlichen, warum sich die Bewertung parallel zur Modellfähigkeit weiterentwickeln muss. Die Woche endet mit der Hervorhebung praktischer Überlegungen zu Dateneigentum, Grenzen des geistigen Eigentums und Einsatzbeschränkungen – insbesondere in Open-Source-Umgebungen –, womit der Schwerpunkt der nächsten Woche auf dem Einsatz von Werkzeugen, dem Speicher und Systemen, die über einen längeren Zeitraum hinweg arbeiten, gelegt wird.

In dieser Woche geht es um den Einsatz von Werkzeugen und darum, wie Modelle Taschenrechner, Suchfunktionen, APIs und abrufgestützte Generierungssysteme nutzen, um auf externe Funktionen zuzugreifen. Der Einsatz von Werkzeugen markiert einen entscheidenden Übergang vom passiven Schlussfolgern zum handlungsorientierten Verhalten, bei dem Modelle nicht mehr ausschließlich innerhalb ihrer Trainingsdaten oder ihres Kontextfensters operieren. In dieser Woche werden außerdem Gedächtnis und Kontextpersistenz vorgestellt und untersucht, wie Kurzzeitkontext, Langzeitspeicherung und Zusammenfassung es Systemen ermöglichen, über mehrere Interaktionen hinweg statt nur auf isolierte Eingabeaufforderungen zu reagieren. Die Lernenden setzen sich mit grundlegenden Bewertungsheuristiken auseinander, die dabei helfen, die Zuverlässigkeit zu überwachen, wenn Systeme immer komplexer werden. Zusammen ermöglichen Werkzeuge und Gedächtnis KI-Systemen, Kontinuität über einen längeren Zeitraum hinweg aufrechtzuerhalten, und bereiten damit den Weg für reale Anwendungen und ethische Überlegungen in der folgenden Woche.

In dieser Woche werden moderne Anwendungen aus verschiedenen Bereichen wie Codegenerierung, Geschäftsabläufe, Verbesserungen der Barrierefreiheit und kreative Medien (Musik, Sprache, Bild, Video) beleuchtet, wobei der Schwerpunkt darauf liegt, wie KI-Systeme als Produktivitätsmultiplikatoren und nicht als Ersatz fungieren. Außerdem werden ethische Überlegungen auf individueller Ebene angestoßen, wobei der Fokus darauf liegt, was es bedeutet, in der täglichen Praxis mit KI-Systemen zusammenzuarbeiten. Die Lernenden setzen sich mit Abwägungen in Bezug auf Kognition, Autonomie und Abhängigkeit sowie mit Diskussionen über das KI-Produktivitätsparadoxon auseinander. „Jedes Mal, wenn Sie mit einer KI interagieren, sollten Sie sich bewusst machen, dass Sie im Gegenzug etwas aufgeben.“ Zum Abschluss des Kurses werden die Lernenden dazu eingeladen, darüber nachzudenken, was KI heute in ihrem jeweiligen Fachgebiet leisten kann. Dies bildet die Grundlage für das Abschlussprojekt von Kurs 2 und bereitet Kurs 3 vor, in dem sich der Fokus von den aktuellen Fähigkeiten auf das Aufkommen von Agenten und die Auswirkungen autonomerer Systeme verlagert.