In Modul 2 werden wir Convolutional Neural Networks (CNNs) besprechen. Ein CNN, auch bekannt als ConvNet, ist eine spezielle Art von Deep-Learning-Algorithmus, der hauptsächlich für Aufgaben entwickelt wurde, die eine Objekterkennung erfordern, einschließlich Bildklassifizierung, -erkennung und -segmentierung. Wir werden insbesondere die wichtigen Schichten in CNNs besprechen, wie z.B. Faltung und Pooling. Wir werden auch verschiedene CNN-Anwendungen vorstellen.

In Modul 3 werden wir wichtige praktische Tipps zum Deep Learning geben, darunter die Wahl der Aktivierungsfunktion, adaptive Gradientenabstiegs-Lernmethoden, Regularisierung und Dropout.

In Modul 4 werden wir rekurrente neuronale Netze (RNNs) besprechen, die für sequentielle Daten verwendet werden. RNN ist eine Art von Neuronalem Netz, bei dem die Ausgabe des vorherigen Schritts als Eingabe für den aktuellen Schritt verwendet wird. Wir werden insbesondere die Vanila-Version von RNNs und das Langzeitgedächtnis (LSTM) diskutieren. Wir werden auch die Lernprobleme bei RNNs diskutieren.

In Modul 5 werden wir die generativen Modelle diskutieren. Insbesondere Generative Adversarial Networks (GANs) und Diffusionsmodelle (DMs). GANs sind eine Möglichkeit, ein generatives Modell zu trainieren, indem das Problem als ein überwachtes Lernproblem mit zwei Untermodellen betrachtet wird: das Generatormodell, das wir trainieren, um neue Beispiele zu generieren, und das Diskriminatormodell, das versucht, Beispiele als echt oder gefälscht zu klassifizieren. DMs sind Markov-Ketten von Diffusionsschritten, um den Daten langsam zufälliges Rauschen hinzuzufügen und dann zu lernen, den Diffusionsprozess umzukehren, um aus dem Rauschen gewünschte Datenproben zu konstruieren.

In Modul 6 werden wir ein leistungsstarkes Deep-Learning-Modell besprechen - den Transformer. Der Transformer ist eine neuronale Netzwerkkomponente, die zum Erlernen nützlicher Darstellungen von Sequenzen oder Datenpunktsätzen verwendet werden kann. Der Transformer hat die jüngsten Fortschritte in der Verarbeitung natürlicher Sprache, im Computer Vision und in der räumlich-zeitlichen Modellierung vorangetrieben.

In Modul 7 wird die Komprimierung neuronaler Netze behandelt. Die Modellkomprimierung verringert die Größe eines neuronalen Netzes, ohne die Genauigkeit zu beeinträchtigen. Diese Größenreduzierung ist wichtig, da größere neuronale Netze auf Geräten mit begrenzten Ressourcen nur schwer eingesetzt werden können.

In Modul 8 werden wir das Transfer-Lernen besprechen. Transferlernen ist eine Technik des maschinellen Lernens, bei der ein abgeschlossenes Modell, das für eine Aufgabe entwickelt wurde, als Ausgangspunkt für ein neues Modell zur Bewältigung einer neuen Aufgabe wiederverwendet wird. Insbesondere werden wir Feinabstimmung, Multitasking-Lernen, Domain-Adverbial-Training und Zero-Shot-Lernen diskutieren.

Dieses Modul enthält die abschließende Kursbeurteilung, mit der Ihr Verständnis des Kursmaterials und Ihre Fähigkeit, das im Kurs erworbene Wissen anzuwenden, beurteilt werden sollen.