Nach diesen Kursen fühle ich mich sicher, professionelle Visualisierungen und Dashboards zu erstellen.
Shoebur RahmanBeschaffungsspezialist, Giz Bangladesh
Kursbeschreibung
In den letzten Jahren wurde viel über Big Data geredet und in vielen Unternehmen ist dieses Thema endlich angekommen. Aber was ist mit Big Data eigentlich gemeint? Dieser Kurs vermittelt die Grundlagen von Big Data mit PySpark. Spark ist ein extrem schnelles Cluster-Computing-Framework für Big Data. Es bietet eine allgemeine Datenverarbeitungsplattform und lässt dich Programme bis zu 100x schneller im Speicher oder 10x schneller auf der Festplatte ausführen als Hadoop. Du verwendest PySpark, ein Python-Paket für die Spark-Programmierung, und seine leistungsstarken, höheren Bibliotheken wie SparkSQL, MLlib (für maschinelles Lernen) und so weiter. In Übungen untersuchst du die Werke von William Shakespeare, analysierst Daten zur FIFA-WM 2018 und führst Clustering mit Genom-Datensätzen durch. Am Ende dieses Kurses hast du ein tiefes Verständnis von PySpark und seiner Nutzung für allgemeine Big-Data-Analysen.
Voraussetzungen
Lernprogramm
Kursübersicht
1
Einführung in die Big-Data-Analyse mit Spark
Dieses Kapitel führt in die spannende Welt von Big Data ein und stellt die verschiedenen Konzepte und Frameworks für die Verarbeitung dieser riesigen Datenmengen vor. Du wirst verstehen, warum Apache Spark als bestes Framework für Big Data gilt.
- Was ist Big Data?50 XP
- Die drei Vs von Big Data50 XP
- PySpark: Spark mit Python50 XP
- SparkContext verstehen100 XP
- Interaktive Nutzung von PySpark100 XP
- Daten in die PySpark-Shell laden100 XP
- Funktionale Programmierung in Python50 XP
- Verwendung von lambda() mit map()100 XP
- Verwendung von lambda() mit filter()100 XP
2
Programmieren in PySpark-RDDs
Die wichtigste Abstraktion, die Spark zur Verfügung stellt, ist ein fehlertoleranter verteilter Datensatz – Resilient Distributed Dataset (RDD) –, der die Grundlage und das Rückgrat dieser Engine bildet. Dieses Kapitel führt in RDDs ein und zeigt, wie sie mit RDD-Transformationen und -Aktionen erstellt und ausgeführt werden.
3
PySpark SQL & DataFrames
In diesem Kapitel lernst du Spark SQL kennen. Dabei handelt es sich um ein Spark-Modul für die strukturierte Datenverarbeitung. Es bietet eine Programmierabstraktion namens DataFrames und kann auch als verteilte SQL Query Engine fungieren. Dieses Kapitel zeigt, wie du DataFrames mithilfe von Spark SQL in Python nutzen kannst.
4
Maschinelles Lernen mit PySpark MLlib
PySpark MLlib ist die skalierbare Bibliothek von Apache Spark für maschinelles Lernen in Python und besteht aus gängigen Lernalgorithmen und Dienstprogrammen. In diesem letzten Kapitel lernst du wichtige Algorithmen für maschinelles Lernen kennen. Du erstellst eine Engine für Filmempfehlungen und einen Spam-Filter und wendest k-Means-Clustering an.
Grundlagen von Big Data mit PySpark
Kurs
abgeschlossen
