Willkommen zum Modul „Training, Optimierung und Bewertung von LLM“. In diesem Modul werden Sie sich eingehender damit befassen, wie große Sprachmodelle trainiert, optimiert und hinsichtlich ihrer Leistung und Zuverlässigkeit bewertet werden. Zunächst lernen Sie die Grundlagen des Trainings und der Optimierung von LLMs kennen, einschließlich der Frage, wie riesige Datensätze und Rechenressourcen genutzt werden, um leistungsstarke Modelle zu erstellen. Das Modul behandelt verschiedene Lerntechniken wie Zero-Shot, Few-Shot, Instruction Tuning und Reinforcement Learning from Human Feedback (RLHF) und vermittelt Ihnen so ein Verständnis dafür, wie sich Modelle mit nur wenigen Beispielen an Aufgaben anpassen. Außerdem lernen Sie Verlustfunktionen kennen und erfahren, wie diese das Modelllernen während des Trainings steuern. Das Konzept der LLM-Ausrichtung wird vorgestellt, um zu erklären, wie Modelle so abgestimmt werden, dass sie sichere, genaue und menschenorientierte Antworten liefern. Im Bereich der Bewertung untersuchen Sie wichtige Bewertungskennzahlen, darunter die Perplexität, und lernen, wie die Modellqualität gemessen wird. Das Modul hebt die entscheidende Rolle hervor, die Menschen bei der Bewertung von Ergebnissen und der Verfeinerung von Modellen spielen, sowie die Bedeutung von GPUs für das Training groß angelegter Modelle. Am Ende dieses Moduls werden Sie ein fundiertes Verständnis dafür haben, wie LLMs in realen KI-Systemen trainiert, optimiert, angepasst und bewertet werden.

Willkommen zum Modul „Prompt Engineering, Fine-Tuning und fortgeschrittene LLM-Architekturen“. In diesem Modul konzentrieren Sie sich auf praktische Techniken zur Steuerung, Anpassung und Verbesserung großer Sprachmodelle (Large Language Models), um den Anforderungen der Praxis gerecht zu werden. Sie beginnen mit dem Prompt-Engineering und lernen die Grundlagen des Prompt-Designs kennen sowie den direkten Einfluss der Prompt-Struktur auf die Modellausgabe. Das Modul behandelt bewährte Techniken zur Erstellung effektiver Prompts, die die Genauigkeit, die Qualität des Schlussfolgerns und die Konsistenz der Antworten verbessern. Anhand einer praktischen Demonstration werden Sie sehen, wie schon kleine Änderungen am Prompt das Verhalten von LLMs erheblich beeinflussen können. Anschließend befassen Sie sich mit Ansätzen zur Feinabstimmung von LLMs, darunter Prompt-Tuning und Parameter-Efficient Fine-Tuning (PEFT). Sie lernen, wie prompt-effiziente Methoden wie P-Tuning große Modelle mit minimalem Rechenaufwand anpassen. Die Einführung in NVIDIA NeMo bietet Einblicke in Frameworks, die zur Anpassung und Optimierung von Sprachmodellen im Unternehmensmaßstab verwendet werden. Abschließend untersuchen Sie die „Retrieval-Augmented Generation“ (RAG)-Architektur und lernen, wie die Kombination von LLMs mit externen Wissensquellen die Faktenverankerung und die domänenspezifische Leistung verbessert. Am Ende dieses Moduls werden Sie verstehen, wie Sie hochwertige Prompts entwerfen, effiziente Fine-Tuning-Techniken anwenden und fortschrittliche LLM-Architekturen für skalierbare generative KI-Lösungen nutzen können.