This course covers the development of natural language processing (NLP), starting with basic concepts and moving to modern transformer architectures. You will learn about attention mechanisms and their impact on language modeling, as well as the details of transformer models, including scaled dot product attention and multi-headed attention. The course includes practical exercises in transfer learning using pre-trained models such as BERT and GPT, with instruction on fine-tuning these models for specific NLP tasks in PyTorch. By the end, you will understand the theory behind current NLP models and gain practical experience in applying them to real-world problems.
Introduction to Transformer Models for NLP: Unit 1
Discover new skills with $120 off courses from industry experts. Save now.
Introduction to Transformer Models for NLP: Unit 1
Ce cours fait partie de Spécialisation Introduction to Transformer Models for NLP
Instructeur : Pearson
Inclus avec 
Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Intermédiaire
Expérience recommandée
3 heures à compléter
Planning flexible
Apprenez à votre propre rythme
Ce que vous apprendrez
Understand the evolution of NLP architectures and the transformative impact of attention mechanisms.
Analyze the structure and mathematical foundations of transformer models, including scaled dot product and multi-headed attention.
Apply transfer learning techniques using pre-trained language models such as BERT and GPT.
Gain practical experience with PyTorch to fine-tune NLP models for custom tasks.
Compétences que vous acquerrez
- Catégorie : Deep Learning
- Catégorie : PyTorch (Machine Learning Library)
- Catégorie : Natural Language Processing
- Catégorie : Artificial Neural Networks
- Catégorie : Large Language Modeling
Détails à connaître
Certificat partageable
Ajouter à votre profil LinkedIn
Récemment mis à jour !
août 2025
Évaluations
3 devoirs
Enseigné en Anglais
Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées
Élaborez votre expertise du sujet
Ce cours fait partie de la Spécialisation Introduction to Transformer Models for NLP
Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.
- Apprenez de nouveaux concepts auprès d'experts du secteur
- Acquérez une compréhension de base d'un sujet ou d'un outil
- Développez des compétences professionnelles avec des projets pratiques
- Obtenez un certificat professionnel partageable
Il y a un module dans ce cours
This module explores the evolution of natural language processing (NLP) through the development and application of attention mechanisms and transformer architectures. Beginning with the history and foundational concepts of attention in language models, it delves into the transformative impact of transformers and their unique attention mechanisms. The module concludes with practical instruction on transfer learning, demonstrating how to fine-tune state-of-the-art pre-trained models like BERT and GPT using PyTorch to achieve advanced NLP results.
Inclus
14 vidéos3 devoirs
Obtenez un certificat professionnel
Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.
En savoir plus sur Machine Learning
Statut : Essai gratuit
Google Cloud
Statut : Essai gratuit
Statut : PrévisualisationNortheastern University
Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?
Felipe M.
Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’
Jennifer J.
Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’
Larry W.
Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’
Chaitanya A.
’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’
Ouvrez de nouvelles portes avec Coursera Plus
Accès illimité à 10,000+ cours de niveau international, projets pratiques et programmes de certification prêts à l'emploi - tous inclus dans votre abonnement.
Faites progresser votre carrière avec un diplôme en ligne
Obtenez un diplôme auprès d’universités de renommée mondiale - 100 % en ligne
Rejoignez plus de 3 400 entreprises mondiales qui ont choisi Coursera pour les affaires
Améliorez les compétences de vos employés pour exceller dans l’économie numérique
Foire Aux Questions
Yes, you can preview the first video and view the syllabus before you enroll. You must purchase the course to access content not included in the preview.
If you decide to enroll in the course before the session start date, you will have access to all of the lecture videos and readings for the course. You’ll be able to submit assignments once the session starts.
Once you enroll and your session begins, you will have access to all videos and other resources, including reading items and the course discussion forum. You’ll be able to view and submit practice assessments, and complete required graded assignments to earn a grade and a Course Certificate.
Plus de questions
Aide financière disponible,