Cours
Introduction à Spark SQL en Python
AvancéNiveau de compétence
Actualisé 03/2026SparkData Manipulation4 h15 vidéos52 Exercices4,200 XP19,850Certificat de réussite.
Créez votre compte gratuit
ou
En continuant, vous acceptez nos Conditions d'utilisation, notre Politique de confidentialité et le fait que vos données seront hébergées aux États-Unis.Apprécié par des utilisateurs provenant de milliers d'entreprises
Former 2 personnes ou plus ?
Essayez DataCamp for BusinessDescription du cours
Apprendre Spark SQL
Si vous maîtrisez le langage SQL et avez entendu parler des avantages d'Apache Spark, ce cours est fait pour vous. Apache Spark est un framework informatique destiné au traitement des mégadonnées, et Spark SQL est un composant d'Apache Spark. Ce cours de quatre heures vous montrera comment exploiter Spark à un niveau supérieur, en utilisant des fonctionnalités SQL avancées, telles que les fonctions de fenêtre.Au fil de quatre chapitres, vous utiliserez Spark SQL pour analyser des données chronologiques, extraire les mots les plus courants d'un document texte, créer des ensembles de caractéristiques à partir d'un texte en langage naturel et les utiliser pour prédire le dernier mot d'une phrase à l'aide d'une régression logistique.
Découvrez les utilisations de Spark SQL
Vous commencerez par créer et interroger une table SQL dans Spark, et vous apprendrez à utiliser les fonctions de fenêtre SQL pour effectuer des sommes cumulées, des différences cumulées et d'autres opérations.Ensuite, vous découvrirez comment utiliser la fonction window dans Spark SQL pour le traitement du langage naturel, notamment en utilisant une analyse de fenêtre mobile pour trouver des séquences de mots courantes.
Dans le chapitre 3, vous apprendrez à utiliser l'interface utilisateur SQL Spark pour mettre correctement en cache les DataFrame et les tableaux SQL avant d'explorer les meilleures pratiques en matière de journalisation dans Spark.
Enfin, vous utilisez toutes les compétences acquises jusqu'à présent pour charger et tokeniser le texte brut avant d'extraire des séquences de mots. Vous utiliserez ensuite la régression logistique pour classer le texte, en utilisant des données brutes en langage naturel pour former un classificateur de texte.
Obtenez une introduction complète à Spark SQL
À la fin du cours, vous aurez acquis une solide compréhension de Spark SQL et saurez comment Spark combine la puissance du calcul distribué avec la facilité d'utilisation de Python et SQL.Prérequis
Python ToolboxPostgreSQL Summary Stats and Window FunctionsIntroduction to PySpark1
PySpark SQL
In this chapter you will learn how to create and query a SQL table in Spark. Spark SQL brings the expressiveness of SQL to Spark. You will also learn how to use SQL window functions in Spark. Window functions perform a calculation across rows that are related to the current row. They greatly simplify achieving results that are difficult to express using only joins and traditional aggregations. We'll use window functions to perform running sums, running differences, and other operations that are challenging to perform in basic SQL.
2
Using Window Function SQL for Natural Language Processing
In this chapter, you will be loading natural language text. Then you will apply a moving window analysis to find frequent word sequences.
3
Caching, Logging, and the Spark UI
In the previous chapters you learned how to use the expressiveness of window function SQL. However, this expressiveness now makes it important that you understand how to properly cache dataframes and cache SQL tables. It is also important to know how to evaluate your application. You learn how to do do this using the Spark UI. You'll also learn a best practice for logging in Spark. Spark SQL brings with it another useful tool for tuning query performance issues, the query execution plan. You will learn how to use the execution plan for evaluating the provenance of a dataframe.
4
Text Classification
Previous chapters provided you with the tools for loading raw text, tokenizing it, and extracting word sequences. This is already very useful for analysis, but it is also useful for machine learning. What you've learned now comes together by using logistic regression to classify text. By the conclusion of this chapter, you will have loaded raw natural language text data and used it to train a text classifier.
Introduction à Spark SQL en Python
Cours terminé
Obtenez un certificat de réussite
Ajoutez cette certification à votre profil LinkedIn, à votre CV ou à votre portfolioPartagez-la sur les réseaux sociaux et dans votre évaluation de performance
Inclus avecPremium or Teams
S'inscrire MaintenantRejoignez plus de 19 millions d'utilisateurs et commencez Introduction à Spark SQL en Python dès aujourd'hui !
Créez votre compte gratuit
ou
En continuant, vous acceptez nos Conditions d'utilisation, notre Politique de confidentialité et le fait que vos données seront hébergées aux États-Unis.