Accéder au contenu principal

Cours

Principes fondamentaux des mégadonnées avec PySpark

AvancéNiveau de compétence

Actualisé 02/2025

Apprenez les bases du travail avec les big data avec PySpark.

Commencer le cours gratuitement

SparkData Engineering

4 h

16 vidéos

55 Exercices

4,600 XP

65,231

Certificat de formation

Apprécié par des utilisateurs provenant de milliers d'entreprises

Former une équipe ?

Essayez pour les entreprises

Description du cours

Les mégadonnées ont fait couler beaucoup d'encre ces dernières années, et elles sont enfin devenues monnaie courante pour de nombreuses entreprises. Mais que sont ces mégadonnées ? Ce cours couvre les fondamentaux des mégadonnées via PySpark. Spark est un framework de « calcul de clusters rapide comme l'éclair » pour les mégadonnées. Il fournit un moteur de plateforme de traitement de données général et vous permet d'exécuter des programmes jusqu'à 100 fois plus vite en mémoire, ou 10 fois plus vite sur disque, que Hadoop. Vous utiliserez PySpark, un paquet Python pour la programmation Spark et ses puissantes bibliothèques de plus haut niveau telles que SparkSQL, MLlib (pour le machine learning), etc. Vous explorerez les œuvres de William Shakespeare, analyserez les données de la Fifa 2018 et effectuerez du clustering sur des ensembles de données génomiques. A la fin de ce cours, vous aurez acquis une compréhension approfondie de PySpark et de son application à l'analyse générale des mégadonnées.

Prérequis

Introduction to Python

1

Introduction to Big Data analysis with Spark

This chapter introduces the exciting world of Big Data, as well as the various concepts and different frameworks for processing Big Data. You will understand why Apache Spark is considered the best framework for BigData.

What is Big Data?

The 3 V's of Big Data

PySpark: Spark with Python

Understanding SparkContext

Interactive Use of PySpark

Loading data in PySpark shell

Review of functional programming in Python

Use of lambda() with map()

Use of lambda() with filter()

Commencer le chapitre

2

Programming in PySpark RDD’s

The main abstraction Spark provides is a resilient distributed dataset (RDD), which is the fundamental and backbone data type of this engine. This chapter introduces RDDs and shows how RDDs can be created and executed using RDD Transformations and Actions.

Abstracting Data with RDDs

RDDs from Parallelized collections

RDDs from External Datasets

Partitions in your data

Basic RDD Transformations and Actions

Map and Collect

Filter and Count

Pair RDDs in PySpark

ReduceBykey and Collect

SortByKey and Collect

Advanced RDD Actions

CountingBykeys

Create a base RDD and transform it

Remove stop words and reduce the dataset

Print word frequencies

Commencer le chapitre

3

PySpark SQL & DataFrames

In this chapter, you'll learn about Spark SQL which is a Spark module for structured data processing. It provides a programming abstraction called DataFrames and can also act as a distributed SQL query engine. This chapter shows how Spark SQL allows you to use DataFrames in Python.

Abstracting Data with DataFrames

RDD to DataFrame

Loading CSV into DataFrame

Operating on DataFrames in PySpark

Inspecting data in PySpark DataFrame

PySpark DataFrame subsetting and cleaning

Filtering your DataFrame

Interacting with DataFrames using PySpark SQL

Running SQL Queries Programmatically

SQL queries for filtering Table

Data Visualization in PySpark using DataFrames

PySpark DataFrame visualization

Part 1: Create a DataFrame from CSV file

Part 2: SQL Queries on DataFrame

Part 3: Data visualization

Commencer le chapitre

4

Machine Learning with PySpark MLlib

PySpark MLlib is the Apache Spark scalable machine learning library in Python consisting of common learning algorithms and utilities. Throughout this last chapter, you'll learn important Machine Learning algorithms. You will build a movie recommendation engine and a spam filter, and use k-means clustering.

Overview of PySpark MLlib

PySpark ML libraries

PySpark MLlib algorithms

Collaborative filtering

Loading Movie Lens dataset into RDDs

Model training and predictions

Model evaluation using MSE

Classification

Loading spam and non-spam data

Feature hashing and LabelPoint

Logistic Regression model training

Loading and parsing the 5000 points data

K-means training

Visualizing clusters

Congratulations!

Commencer le chapitre

Principes fondamentaux des mégadonnées avec PySpark

Cours
terminé

Obtenez un certificat de réussite

Ajoutez cette certification à votre profil LinkedIn, à votre CV ou à votre portfolio
Partagez-la sur les réseaux sociaux et dans votre évaluation de performanceS'inscrire maintenant

Rejoignez plus de 19 millions d'utilisateurs et commencez Principes fondamentaux des mégadonnées avec PySpark dès aujourd'hui !

Apprenez où que vous soyez avec l'application DataCamp

Progressez où que vous soyez grâce à nos cours conçus pour mobile et à nos défis quotidiens de 5 minutes.