Weiter zum Inhalt

Kurs

Einführung in Spark SQL mit Python

Fortgeschritten4 Std.

Hier lernst du, wie du mit Python und SQL in Spark Daten bearbeitest und Feature-Sets für maschinelles Lernen erstellst.

Python4 Std.15 Videos52 Übungen4,200 XP20,609Leistungsnachweis

Erstelle dein kostenloses Konto

Mit Google fortfahren
oder
Indem du fortfährst, akzeptierst du unsere Nutzungsbedingungen, unser Datenschutzrichtlinie und dass Ihre Daten in den USA gespeichert werden.

Geliebt von Lernenden in Tausenden Unternehmen

Kursbeschreibung

Lerne Spark SQL

Wenn du dich mit SQL auskennst und schon viel Gutes über Apache Spark gehört hast, ist dieser Kurs genau das Richtige für dich. Apache Spark ist ein Rechenframework für die Verarbeitung von Big Data, und Spark SQL ist ein Teil von Apache Spark. In diesem vierstündigen Kurs lernst du, wie du Spark mit fortgeschrittenen SQL-Funktionen wie Fensterfunktionen noch besser nutzen kannst.

In vier Kapiteln lernst du, wie du mit Spark SQL Zeitreihendaten analysierst, die häufigsten Wörter aus einem Textdokument herausziehst, Merkmalsätze aus natürlichem Sprachtext erstellst und diese nutzt, um das letzte Wort in einem Satz mithilfe logistischer Regression vorherzusagen.

Entdecke die Einsatzmöglichkeiten von Spark SQL

Du fängst damit an, eine SQL-Tabelle in Spark zu erstellen und abzufragen. Außerdem lernst du, wie du SQL-Fensterfunktionen für laufende Summen, laufende Differenzen und andere Operationen nutzen kannst.

Als Nächstes lernst du, wie du die Fensterfunktion in Spark SQL für die Verarbeitung natürlicher Sprache nutzen kannst, zum Beispiel mit einer Analyse mit gleitendem Fenster, um häufige Wortfolgen zu finden.

In Kapitel 3 lernst du, wie du mit der SQL Spark-Benutzeroberfläche DataFrame und SQL-Tabellen richtig zwischenspeicherst, bevor du dich mit den Best Practices für die Protokollierung in Spark beschäftigst.

Zum Schluss nutzt du alle bisher erlernten Fähigkeiten, um Rohtext zu laden und zu tokenisieren, bevor du Wortsequenzen extrahierst. Dann wirst du logistische Regression nutzen, um den Text zu klassifizieren, indem du mit rohen Daten in natürlicher Sprache einen Textklassifikator trainierst.

Hol dir eine gründliche Einführung in Spark SQL

Am Ende des Kurses wirst du Spark SQL richtig gut verstehen und wissen, wie Spark die Leistung von verteiltem Rechnen mit der Benutzerfreundlichkeit von Python und SQL kombiniert.

Voraussetzungen

Lernprogramm

Kursübersicht

1

PySpark SQL

In diesem Kapitel lernst du, wie du in Spark eine SQL-Tabelle erstellst und abfragst. Spark SQL bringt die Ausdrucksstärke von SQL nach Spark. Außerdem lernst du, wie du SQL-Fensterfunktionen in Spark verwendest. Fensterfunktionen führen Berechnungen über Zeilen aus, die mit der aktuellen Zeile in Beziehung stehen. So werden Ergebnisse wesentlich einfacher, die sich nur mit Joins und klassischen Aggregationen schwer ausdrücken lassen. Wir nutzen Fensterfunktionen für laufende Summen, laufende Differenzen und andere Operationen, die in einfachem SQL herausfordernd sind.
Kapitel starten
3

Caching, Logging und das Spark UI

In den vorherigen Kapiteln hast du gelernt, wie ausdrucksstark SQL mit Fensterfunktionen ist. Diese Ausdrucksstärke macht es nun wichtig, dass du verstehst, wie man DataFrames und SQL-Tabellen richtig cached. Außerdem ist es wichtig zu wissen, wie du deine Anwendung bewertest. Du lernst, wie du das mit dem Spark UI machst. Außerdem erfährst du eine Best Practice für Logging in Spark. Spark SQL bringt ein weiteres nützliches Werkzeug zur Optimierung von Abfrageleistungen mit: den Ausführungsplan. Du lernst, wie du den Ausführungsplan verwendest, um die Herkunft eines DataFrames zu beurteilen.
Kapitel starten
4

Textklassifikation

In den vorherigen Kapiteln hast du Werkzeuge erhalten, um Rohtext zu laden, zu tokenisieren und Wortfolgen zu extrahieren. Das ist bereits sehr nützlich für Analysen, aber auch für Machine Learning. Jetzt führst du alles zusammen, indem du logistische Regression zur Textklassifikation einsetzt. Am Ende dieses Kapitels hast du Rohdaten aus natürlicher Sprache geladen und damit einen Textklassifikator trainiert.
Kapitel starten

Einführung in Spark SQL mit Python

Kurs
abgeschlossen

Bescheinigung über den Abschluss erhalten

Jetzt einschreiben

Datenkompetenz für unterwegs – mit der DataCamp-App

Mit unseren Kursen für Mobilgeräte und täglichen Programmier-Challenges erweiterst du deine Datenkompetenz von unterwegs.