This course is for novice programmers or business people who would like to understand the core tools used to wrangle and analyze big data. With no prior experience, you will have the opportunity to walk through hands-on examples with Hadoop and Spark frameworks, two of the most common in the industry. You will be comfortable explaining the specific components and basic processes of the Hadoop architecture, software stack, and execution environment. In the assignments you will be guided in how data scientists apply the important concepts and techniques such as Map-Reduce that are used to solve fundamental problems in big data. You'll feel empowered to have conversations about big data and the data analysis process.
von
120,160 bereits angemeldet!
University of California San Diego
Über diesen Kurs
40,988
40,988Kompetenzen, die Sie erwerben
Python ProgrammingApache HadoopMapreduceApache Spark
Lehrplan - Was Sie in diesem Kurs lernen werden
Woche
12 Stunden zum Abschließen
Hadoop Basics
Welcome to the first module of the Big Data Platform course. This first module will provide insight into Big Data Hype, its technologies opportunities and challenges. We will take a deeper look into the Hadoop stack and tool and technologies associated with Big Data solutions.
7 Videos (Gesamt 53 min), 4 Lektüren, 1 Quiz
7 Videos
The Apache Framework: Basic Modules3m
Hadoop Distributed File System (HDFS)5m
The Hadoop "Zoo"5m
Hadoop Ecosystem Major Components11m
Exploring the Cloudera VM: Hands-On Part 116m
Exploring the Cloudera VM: Hands-On Part 26m
4 Lektüren
Apache Hadoop Ecosystem10m
Lesson 1 Slides (PDF)10m
Hardware & Software Requirements10m
Lesson 2 Slides - Cloudera VM Tour10m
1 praktische Übung
Basic Hadoop Stack20m
Woche
23 Stunden zum Abschließen
Introduction to the Hadoop Stack
In this module we will take a detailed look at the Hadoop stack ranging from the basic HDFS components, to application execution frameworks, and languages, services.
10 Videos (Gesamt 70 min), 6 Lektüren, 3 Quiz
10 Videos
The Hadoop Distributed File System (HDFS) and HDFS28m
MapReduce Framework and YARN8m
The Hadoop Execution Environment4m
YARN, Tez, and Spark11m
Hadoop Resource Scheduling6m
Hadoop-Based Applications3m
Introduction to Apache Pig7m
Introduction to Apache HIVE7m
Introduction to Apache HBASE7m
6 Lektüren
Hadoop Basics - Lesson 1 Slides10m
Lesson 2: Hadoop Execution Environment - Slides10m
Lesson 3: Hadoop-Based Applications Overview - All Slides10m
Command list for Applications Slides10m
Tips to handle service connection errors10m
References for Applications10m
3 praktische Übungen
Overview of Hadoop Stack10m
Hadoop Execution Environment14m
Hadoop Applications12m
Woche
32 Stunden zum Abschließen
Introduction to Hadoop Distributed File System (HDFS)
In this module we will take a detailed look at the Hadoop Distributed File System (HDFS). We will cover the main design goals of HDFS, understand the read/write process to HDFS, the main configuration parameters that can be tuned to control HDFS performance and robustness, and get an overview of the different ways you can access data on HDFS.
9 Videos (Gesamt 58 min), 5 Lektüren, 3 Quiz
9 Videos
The HDFS Performance Envelope5m
Read/Write Processes in HDFS4m
HDFS Tuning Parameters6m
HDFS Performance and Robustness9m
Overview of HDFS Access, APIs, and Applications5m
HDFS Commands8m
Native Java API for HDFS4m
REST API for HDFS8m
5 Lektüren
Lesson 1: Introduction to HDFS - Slides10m
HDFS references10m
Lesson 2: HDFS Performance and Tuning - Slides10m
HDFS Access, APIs10m
Lesson 3: HDFS Access, APIs, Applications - Slides10m
3 praktische Übungen
HDFS Architecture12m
HDFS performance,tuning, and robustness10m
Accessing HDFS12m
Woche
47 Stunden zum Abschließen
Introduction to Map/Reduce
This module will introduce Map/Reduce concepts and practice. You will learn about the big idea of Map/Reduce and you will learn how to design, implement, and execute tasks in the map/reduce framework. You will also learn the trade-offs in map/reduce and how that motivates other tools.
9 Videos (Gesamt 27 min), 3 Lektüren, 3 Quiz
9 Videos
The Map/Reduce Framework2m
A MapReduce Example: Wordcount in detail4m
MapReduce: Intro to Examples and Principles2m
MapReduce Example: Trending Wordcount1m
MapReduce Example: Joining Data4m
MapReduce Example: Vector Multiplication2m
Computational Costs of Vector Multiplication3m
MapReduce Summary2m
3 Lektüren
Lesson 1: Introduction to MapReduce - Slides10m
A note on debugging map/reduce programs.10m
Lesson 2: MapReduce Examples and Principles - Slides10m
1 praktische Übung
Lesson 1 Review14m
Woche
58 Stunden zum Abschließen
Spark
Welcome to module 5, Introduction to Spark, this week we will focus on the Apache Spark cluster computing framework, an important contender of Hadoop MapReduce in the Big Data Arena.
Spark provides great performance advantages over Hadoop MapReduce,especially for iterative algorithms, thanks to in-memory caching. Also, gives Data Scientists an easier way to write their analysis pipeline in Python and Scala,even providing interactive shells to play live with data.
10 Videos (Gesamt 70 min), 4 Lektüren, 5 Quiz
10 Videos
Architecture of Spark7m
Resilient Distributed Datasets10m
Spark Transformations10m
Wide Transformations10m
Directed Acyclic Graph (DAG) Scheduler8m
Actions in Spark2m
Memory Caching in Spark5m
Broadcast Variables2m
Accumulators1m
4 Lektüren
Setup PySpark on the Cloudera VM10m
Lesson 1: Intro to Apache Spark - Slides10m
Lesson 2: RDD and Transformations - Slides10m
Lesson 3: Scheduling, Actions, Caching - Slides10m
3 praktische Übungen
Spark Lesson 112m
Spark Lesson 210m
Spark Lesson 312m
29%
nahm einen neuen Beruf nach Abschluss dieser Kurse auf
24%
ziehen Sie für Ihren Beruf greifbaren Nutzen aus diesem Kurs
Top-Bewertungen
I'm forced to give 5 stars. I don't want to have a certification on a poor quality course (another coursera mistake). This material needs tremendous amount of work to get finished and revised.
Super hands on introduction to key Hadoop components, such as Spark, Map Reduce, Hive, Pig, HBase, HDFS, YARN, Squoop and Flume.\n\nI can't wait to the next course on the specialization.
Dozenten
Natasha Balac
Director, Predictive Analytics Center of Excellence (PACE)San Diego Supercomputer Center
Paul Rodriguez
Research ProgrammerSan Diego Supercomputer Center (SDSC)
Andrea Zonca
HPC Applications SpecialistSan Diego Supercomputer Center (SDSC)
Über University of California San Diego
UC San Diego is an academic powerhouse and economic engine, recognized as one of the top 10 public universities by U.S. News and World Report. Innovation is central to who we are and what we do. Here, students learn that knowledge isn't just acquired in the classroom—life is their laboratory.
Häufig gestellte Fragen
Wann erhalte ich Zugang zu den Vorträgen und Aufgaben?
Sobald Sie sich für ein Zertifikat angemeldet haben, haben Sie Zugriff auf alle Videos, Quizspiele und Programmieraufgaben (falls zutreffend). Aufgaben, die von anderen Kursteilnehmern bewertet werden, können erst dann eingereicht und überprüft werden, wenn Ihr Unterricht begonnen hat. Wenn Sie sich den Kurs anschauen möchten, ohne ihn zu kaufen, können Sie womöglich auf bestimmte Aufgaben nicht zugreifen.
Was bekomme ich, wenn ich das Zertifikat erwerbe?
Wenn Sie ein Zertifikat erwerben, erhalten Sie Zugriff auf alle Kursmaterialien, einschließlich bewerteter Aufgaben. Nach Abschluss des Kurses wird Ihr elektronisches Zertifikat zu Ihrer Seite „Errungenschaften“ hinzugefügt – von dort können Sie Ihr Zertifikat ausdrucken oder es zu Ihrem LinkedIn Profil hinzufügen. Wenn Sie nur lesen und den Inhalt des Kurses anzeigen möchten, können Sie kostenlos als Gast an dem Kurs teilnehmen.
Wie erfolgen Rückerstattungen?
Ist finanzielle Unterstützung möglich?
Haben Sie weitere Fragen? Besuchen Sie das Hilfe-Center für Teiln..
Coursera arbeitet mit erstklassigen Universitäten und Organisationen zusammen, um Online-Kurse anzubieten und dadurch universellen Zugriff auf die weltweit beste Ausbildung zu ermöglichen.
© 2019 Coursera Inc. Alle Rechte vorbehalten.
