One of the important topics that every data analyst should be familiar with is the distributed data processing technologies. As a data analyst, you should be able to apply different queries to your dataset to extract useful information out of it. but what if your data is so big that working with it on your local machine is not easy to be done. That is when the distributed data processing and Spark Technology will become handy. So in this project, we are going to work with pyspark module in python and we are going to use google colab environment in order to apply some queries to the dataset we have related to lastfm website which is an online music service where users can listen to different songs. This dataset is containing two csv files listening.csv and genre.csv. Also, we will learn how we can visualize our query results using matplotlib.
Data Analysis Using Pyspark
Data Analysis Using Pyspark
Instructeur : Ahmad Varasteh
18 253 déjà inscrits
Inclus avec En savoir plus
(320 avis)
Expérience recommandée
Ce que vous apprendrez
Learn how to setup the google colab for distributed data processing
Learn applying different queries to your dataset to extract useful Information
Learn how to visualize this information using matplotlib
Compétences que vous pratiquerez
- Catégorie : Data Manipulation
- Catégorie : Big Data
- Catégorie : Matplotlib
- Catégorie : Data Presentation
- Catégorie : Data Processing
- Catégorie : Data Visualization
- Catégorie : Distributed Computing
- Catégorie : Data Management
- Catégorie : Data Analysis
- Catégorie : Data Cleansing
Outils que vous utiliserez
- Catégorie : PySpark
- Catégorie : Python Programming
- Catégorie : Query Languages
- Catégorie : Apache Spark
Détails à connaître
Ajouter à votre profil LinkedIn
Disponible uniquement sur ordinateur
Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées
Apprendre, pratiquer et appliquer des compétences prêtes à l’emploi en moins de 2 heures
- Bénéficiez d’une formation par des experts du secteur
- Gagnez en expérience pratique en effectuant des tâches professionnelles du monde réel
- Renforcez votre confiance en utilisant les outils et technologies les plus récents
À propos de ce Projet Guidé
Apprendrez étape par étape
Votre enseignant(e) vous guidera étape par étape, grâce à une vidéo en écran partagé sur votre espace de travail :
Prepare the Google Colab for distributed data processing
Mounting our Google Drive into Google Colab environment
Importing first file of our Dataset (1 Gb) into pySpark dataframe
Applying some Queries to extract useful information out of our data
Importing second file of our Dataset (3 Mb) into pySpark dataframe
Joining two dataframes and prepapre it for more advanced queries
Learn visualizing our query results using matplotlib
Expérience recommandée
Learners should be familiar with Python programming Language, Spark Technology and have a little experience working with google colab environment
5 images de projet
Instructeur
Offert par
Méthode d’apprentissage
Apprentissage pratique basé sur les compétences
Mettez en pratique de nouvelles compétences en effectuant des tâches professionnelles.
Conseils d’experts
Suivez les vidéos pré-enregistrées d’experts à l’aide d’une interface unique, divisée en deux.
Aucun téléchargement ou installation requis(e)
Accédez aux outils et aux ressources dont vous avez besoin dans un espace de travail cloud préconfiguré.
Disponible uniquement sur ordinateur de bureau
Ce Projet Guidé est conçu pour les ordinateurs portables ou de bureau disposant d’une connexion internet fiable, et non pour les appareils mobiles.
Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?
Felipe M.
Jennifer J.
Larry W.
Chaitanya A.
Avis des étudiants
- 5 stars
62,50 %
- 4 stars
25 %
- 3 stars
8,43 %
- 2 stars
1,56 %
- 1 star
2,50 %
Affichage de 3 sur 320
Révisé le 29 janv. 2021
It would have been better if more foundations of Spark framework had been provided
Révisé le 4 août 2020
all is great except the idea of struct function it is a little bit confusing .however all awesome hand-on practice please do more coursers
Révisé le 22 janv. 2022
Quick and good course on pyspark for someone who is familiar with Pandas. Although some more depth can be added to the course by giving short brief on Spark and how it works.
Vous aimerez peut-être aussi
Faites progresser votre carrière avec un diplôme en ligne
Obtenez un diplôme auprès d’universités de renommée mondiale - 100 % en ligne
