Dans ce module, nous aborderons les bases mathématiques de l'apprentissage des réseaux profonds. Nous commencerons par expliquer comment nous définissons l'apprentissage des réseaux profonds comme un problème de minimisation d'une fonction mathématique. Après avoir défini notre objectif mathématique, nous introduirons des méthodes de validation pour estimer les performances réelles des réseaux profonds appris. Nous verrons ensuite comment la descente de gradient, une technique classique d'optimisation, peut être utilisée pour atteindre cet objectif mathématique. Enfin, nous verrons pourquoi et comment la descente de gradient stochastique est utilisée dans la pratique pour apprendre des réseaux profonds.

Cette semaine couvrira l'apprentissage du modèle, ainsi que l'apprentissage par transfert et le réglage fin. En plus d'apprendre les principes fondamentaux d'un CNN et la manière dont il est appliqué, une discussion approfondie est fournie sur l'intuition du CNN, dans le but de fournir une compréhension conceptuelle.

Cette semaine sera consacrée à l'application des réseaux neuronaux au traitement du langage naturel (NLP), des modèles neuronaux les plus simples aux plus complexes. Le concept fondamental des encastrements de mots est discuté, ainsi que la façon dont ces méthodes sont employées dans l'apprentissage et l'utilisation de modèles pour plusieurs applications du TAL. Un large éventail de modèles neuronaux de TAL est également abordé, y compris les réseaux neuronaux récurrents, et en particulier les modèles de mémoire à long terme (LSTM).

Cette semaine, nous allons aborder une introduction au réseau Transformer, un modèle d'apprentissage automatique profond conçu pour être plus flexible et plus robuste que les réseaux neuronaux récurrents (RNN). Nous commencerons par passer en revue plusieurs composantes d'apprentissage automatique d'un réseau Transformer : les produits intérieurs des vecteurs de mots, les mécanismes d'attention et les encodeurs et décodeurs de séquence à séquence. Ensuite, nous assemblerons tous ces composants pour explorer le réseau transformateur complet.

Cette semaine, nous aborderons l'apprentissage par renforcement, un concept fondamental de l'apprentissage automatique qui consiste à prendre des mesures appropriées pour maximiser les récompenses dans une situation donnée. Après avoir appris les étapes initiales de l'apprentissage par renforcement, nous passerons à l'apprentissage Q, ainsi qu'à l'apprentissage Q profond. Nous discuterons de la différence entre les concepts d'exploration et d'exploitation et de leur importance.