This course covers the development of natural language processing (NLP), starting with basic concepts and moving to modern transformer architectures. You will learn about attention mechanisms and their impact on language modeling, as well as the details of transformer models, including scaled dot product attention and multi-headed attention. The course includes practical exercises in transfer learning using pre-trained models such as BERT and GPT, with instruction on fine-tuning these models for specific NLP tasks in PyTorch. By the end, you will understand the theory behind current NLP models and gain practical experience in applying them to real-world problems.

Introduction to Transformer Models for NLP: Unit 1
Obtenez l'une de nos meilleures offres avec Coursera Plus pour 199 $ (habituellement 399 $). Économisez maintenant.

Introduction to Transformer Models for NLP: Unit 1
Ce cours fait partie de Spécialisation "Introduction to Transformer Models for NLP"


Instructeurs : Pearson
Inclus avec En savoir plus
Demander à Coursera
Expérience recommandée
Ce que vous apprendrez
Understand the evolution of NLP architectures and the transformative impact of attention mechanisms.
Analyze the structure and mathematical foundations of transformer models, including scaled dot product and multi-headed attention.
Apply transfer learning techniques using pre-trained language models such as BERT and GPT.
Gain practical experience with PyTorch to fine-tune NLP models for custom tasks.
Compétences que vous acquerrez
- Catégorie : Large Language Modeling
- Catégorie : Transfer Learning
- Catégorie : Generative Model Architectures
- Catégorie : Fine-tuning
- Catégorie : Natural Language Processing
- Catégorie : LLM Application
Outils que vous découvrirez
- Catégorie : PyTorch (Machine Learning Library)
Détails à connaître

Ajouter à votre profil LinkedIn
3 devoirs
Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

Élaborez votre expertise du sujet
- Apprenez de nouveaux concepts auprès d'experts du secteur
- Acquérez une compréhension de base d'un sujet ou d'un outil
- Développez des compétences professionnelles avec des projets pratiques
- Obtenez un certificat professionnel partageable

En savoir plus sur Machine Learning
Statut : Essai gratuit
Statut : Essai gratuit
Statut : Essai gratuit
Statut : Essai gratuit
Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Jennifer J.

Larry W.

Chaitanya A.
Foire Aux Questions
Plus de questions
Aide financière disponible,




