Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization

Dieser Kurs ist Teil der Spezialisierung Spezialisierung Deep Learning

4.9
Sterne
57,438 Bewertungen

Andrew Ng +2 weitere Dozenten
Herausragende Dozenten

von

Spezialisierung Deep Learningdeeplearning.ai

Über diesen Kurs

In the second course of the Deep Learning Specialization, you will open the deep learning black box to understand the processes that drive performance and generate good results systematically. 
By the end, you will learn the best practices to train and develop test sets and analyze bias/variance for building deep learning applications; be able to use standard neural network techniques such as initialization, L2 and dropout regularization, hyperparameter tuning, batch normalization, and gradient checking; implement and apply a variety of optimization algorithms, such as mini-batch gradient descent, Momentum, RMSprop and Adam, and check for their convergence; and implement a neural network in TensorFlow.

The Deep Learning Specialization is our foundational program that will help you understand the capabilities, challenges, and consequences of deep learning and prepare you to participate in the development of leading-edge AI technology. It provides a pathway for you to gain the knowledge and skills to apply machine learning to your work, level up your technical career, and take the definitive step in the world of AI.

Karriereergebnisse der Lernenden

30%

nahm einen neuen Beruf nach Abschluss dieser Kurse auf

29%

ziehen Sie für Ihren Beruf greifbaren Nutzen aus diesem Kurs

11%

erhalten Sie eine Gehaltserhöhung oder Beförderung

Zertifikat zur Vorlage

Erhalten Sie nach Abschluss ein Zertifikat

100 % online

Beginnen Sie sofort und lernen Sie in Ihrem eigenen Tempo.

Kurs 2 von 5 in

Spezialisierung Deep Learning

Flexible Fristen

Setzen Sie Fristen gemäß Ihrem Zeitplan zurück.

Stufe „Mittel“

Intermediate Python skills: basic programming, understanding of for loops, if/else statements, data structures
A basic grasp of linear algebra & ML

Ca. 18 Stunden zum Abschließen

Englisch

Untertitel: Chinesisch (traditionell), Arabischer Raum, Französisch, Portugiesisch (europäisch), Chinesisch (vereinfacht), Italienisch, Portugiesisch (Brasilien), Vietnamesisch, Koreanisch, Deutsch, Russisch, Türkisch, Englisch, Spanisch

Kompetenzen, die Sie erwerben

TensorflowDeep LearningMathematical Optimizationhyperparameter tuning

Karriereergebnisse der Lernenden

30%

nahm einen neuen Beruf nach Abschluss dieser Kurse auf

29%

ziehen Sie für Ihren Beruf greifbaren Nutzen aus diesem Kurs

11%

erhalten Sie eine Gehaltserhöhung oder Beförderung

Zertifikat zur Vorlage

Erhalten Sie nach Abschluss ein Zertifikat

100 % online

Beginnen Sie sofort und lernen Sie in Ihrem eigenen Tempo.

Kurs 2 von 5 in

Spezialisierung Deep Learning

Flexible Fristen

Setzen Sie Fristen gemäß Ihrem Zeitplan zurück.

Stufe „Mittel“

Intermediate Python skills: basic programming, understanding of for loops, if/else statements, data structures
A basic grasp of linear algebra & ML

Ca. 18 Stunden zum Abschließen

Englisch

Dozenten

Dozentenbewertung

4.92/5 (3,265 Bewertungen)

von

deeplearning.ai

DeepLearning.AI is an education technology company that develops a global community of AI talent.

Lehrplan - Was Sie in diesem Kurs lernen werden

Inhaltsbewertung96%(58,283 Bewertungen)

Woche

Woche 1

8 Stunden zum Abschließen

Practical aspects of Deep Learning

8 Stunden zum Abschließen

15 Videos (Gesamt 131 min), 3 Lektüren, 4 Quiz

15 Videos

Train / Dev / Test sets12m

Bias / Variance8m

Basic Recipe for Machine Learning6m

Regularization9m

Why regularization reduces overfitting?7m

Dropout Regularization9m

Understanding Dropout7m

Other regularization methods8m

Normalizing inputs5m

Vanishing / Exploding gradients6m

Weight Initialization for Deep Networks6m

Numerical approximation of gradients6m

Gradient checking6m

Gradient Checking Implementation Notes5m

Yoshua Bengio interview25m

3 Lektüren

Clarification about Upcoming Regularization Video1m

Clarification about Upcoming Understanding dropout Video1m

Clarification about Upcoming Normalizing Inputs Video1m

1 praktische Übung

Practical aspects of deep learning30m

Woche

Woche 2

5 Stunden zum Abschließen

Optimization algorithms

5 Stunden zum Abschließen

11 Videos (Gesamt 92 min), 2 Lektüren, 2 Quiz

11 Videos

Mini-batch gradient descent11m

Understanding mini-batch gradient descent11m

Exponentially weighted averages5m

Understanding exponentially weighted averages9m

Bias correction in exponentially weighted averages4m

Gradient descent with momentum9m

RMSprop7m

Adam optimization algorithm7m

Learning rate decay6m

The problem of local optima5m

Yuanqing Lin interview13m

2 Lektüren

Clarification about Upcoming Adam Optimization Video1m

Clarification about Learning Rate Decay Video1m

1 praktische Übung

Optimization algorithms30m

Woche

Woche 3

5 Stunden zum Abschließen

Hyperparameter tuning, Batch Normalization and Programming Frameworks

5 Stunden zum Abschließen

11 Videos (Gesamt 104 min), 2 Lektüren, 2 Quiz

11 Videos

Tuning process7m

Using an appropriate scale to pick hyperparameters8m

Hyperparameters tuning in practice: Pandas vs. Caviar6m

Normalizing activations in a network8m

Fitting Batch Norm into a neural network12m

Why does Batch Norm work?11m

Batch Norm at test time5m

Softmax Regression11m

Training a softmax classifier10m

Deep learning frameworks4m

TensorFlow16m

2 Lektüren

Clarifications about Upcoming Softmax Video1m

Note about TensorFlow 1 and TensorFlow 210m

1 praktische Übung

Hyperparameter tuning, Batch Normalization, Programming Frameworks30m

Bewertungen

4.9

6602 Bewertungen

5 stars
88.33%
4 stars
10.53%
3 stars
0.97%
2 stars
0.10%
1 star
0.04%

Top-Bewertungen von IMPROVING DEEP NEURAL NETWORKS: HYPERPARAMETER TUNING, REGULARIZATION AND OPTIMIZATION

von CV23. Dez. 2017

Exceptional Course, the Hyper parameters explanations are excellent every tip and advice provided help me so much to build better models, I also really liked the introduction of Tensor Flow Thanks.

von A22. Okt. 2017

Assignment in week 2 could not tell the difference between 'a-=b' and 'a=a-b' and marked the former as incorrect even though they are the same and gave the same output. Other than that, a great course

von AS18. Apr. 2020

Very good course to give you deep insight about how to enhance your algorithm and neural network and improve its accuracy. Also teaches you Tensorflow. Highly recommend especially after the 1st course

von XG30. Okt. 2017

Thank you Andrew!! I know start to use Tensorflow, however, this tool is not well for a research goal. Maybe, pytorch could be considered in the future!! And let us know how to use pytorch in Windows.

Alle Bewertungen anzeigen

Über den Spezialisierung Deep Learning

The Deep Learning Specialization is our foundational program that will help you understand the capabilities, challenges, and consequences of deep learning and prepare you to participate in the development of leading-edge AI technology.

In this Specialization, you will build neural network architectures such as Convolutional Neural Networks, Recurrent Neural Networks, LSTMs, Transformers, and learn how to make them better with strategies such as Dropout, BatchNorm, Xavier/He initialization, and more. You will master these theoretical concepts and their industry applications using Python and TensorFlow. You will tackle real-world case studies such as autonomous driving, sign language reading, music generation, computer vision, speech recognition, and natural language processing. AI is transforming many industries. The Deep Learning Specialization provides a pathway for you to gain the knowledge and skills to apply machine learning to your work, level up your technical career, and take the definitive step in the world of AI. Along the way, you will get career advice from deep learning experts from industry and academia.

Häufig gestellte Fragen

Wann erhalte ich Zugang zu den Vorträgen und Aufgaben?
Der Zugang zu Vorlesungen und Aufgaben hängt von der Art Ihrer Anmeldung ab. Wenn Sie einen Kurs im Gastmodus belegen, können Sie die meisten Kursmaterialien kostenlos einsehen. Um auf benotete Aufgaben zuzugreifen und ein Zertifikat zu erhalten, müssen Sie während oder nach Ihrer Gastphase das Zertifikat erwerben. Wenn Sie die Gastoption nicht sehen:
Der Kurs bietet möglicherweise keine Gastoption an. Sie können stattdessen eine kostenlose Testversion ausprobieren oder finanzielle Unterstützung beantragen.
Der Kurs kann stattdessen "Vollständiger Kurs ohne Zertifikat" anbieten. Mit dieser Option können Sie alle Kursmaterialien einsehen, die erforderlichen Aufgaben einreichen und eine Endnote erhalten. Dies bedeutet auch, dass Sie kein Zertifikat erwerben können.
Was bekomme ich, wenn ich diese Spezialisierung abonniere?
Wenn Sie sich für den Kurs anmelden, erhalten Sie Zugriff auf alle Kurse der Spezialisierung und Sie erhalten nach Abschluss aller Arbeiten ein Zertifikat. Ihr elektronisches Zertifikat wird zu Ihrer Seite „Errungenschaften“ hinzugefügt – von dort können Sie Ihr Zertifikat ausdrucken oder es zu Ihrem LinkedIn Profil hinzufügen. Wenn Sie nur lesen und den Inhalt des Kurses anzeigen möchten, können Sie kostenlos als Gast an dem Kurs teilnehmen.
Is financial aid available?
Ja, Coursera bietet für Kursteilnehmer, die sich die Kursgebühr nicht leisten können, finanzielle Unterstützung an. Bewerben Sie sich dafür, indem Sie auf den Link für finanzielle Unterstützung links unter der Schaltfläche „Anmelden“ klicken. Sie werden zum Ausfüllen eines Antrags aufgefordert und werden bei Genehmigung benachrichtigt. Diesen Schritt müssen Sie für jeden Kurs der Spezialisierung ausführen, auch für das Abschlussprojekt. Mehr erfahren

Haben Sie weitere Fragen? Besuchen Sie das Hilfe-Center für Teiln..

Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization

Über diesen Kurs

Karriereergebnisse der Lernenden

30%

29%

11%

Kompetenzen, die Sie erwerben

Karriereergebnisse der Lernenden

30%

29%

11%

Dozenten

Andrew Ng
Herausragender Dozent

Kian Katanforoosh
Herausragender Dozent

Younes Bensouda Mourri
Herausragender Dozent

von

deeplearning.ai

Lehrplan - Was Sie in diesem Kurs lernen werden

Woche 1

Practical aspects of Deep Learning

Woche 2

Optimization algorithms

Woche 3

Hyperparameter tuning, Batch Normalization and Programming Frameworks

Bewertungen

Top-Bewertungen von IMPROVING DEEP NEURAL NETWORKS: HYPERPARAMETER TUNING, REGULARIZATION AND OPTIMIZATION

Über den Spezialisierung Deep Learning

Häufig gestellte Fragen

Beliebte Online-Kurse

Beliebte Online-Spezialisierungen

Online-Zertifikate

Online-Abschlussprogramme

Coursera

Community

Mehr

Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization

Über diesen Kurs

Karriereergebnisse der Lernenden

30%

29%

11%

Kompetenzen, die Sie erwerben

Karriereergebnisse der Lernenden

30%

29%

11%

Dozenten

Andrew NgHerausragender Dozent

Kian KatanforooshHerausragender Dozent

Younes Bensouda MourriHerausragender Dozent

von

deeplearning.ai

Lehrplan - Was Sie in diesem Kurs lernen werden

Woche 1

Practical aspects of Deep Learning

Woche 2

Optimization algorithms

Woche 3

Hyperparameter tuning, Batch Normalization and Programming Frameworks

Bewertungen

Top-Bewertungen von IMPROVING DEEP NEURAL NETWORKS: HYPERPARAMETER TUNING, REGULARIZATION AND OPTIMIZATION

Über den Spezialisierung Deep Learning

Häufig gestellte Fragen

Coursera Footer

Beliebte Online-Kurse

Beliebte Online-Spezialisierungen

Online-Zertifikate

Online-Abschlussprogramme

Coursera

Community

Mehr

Andrew Ng
Herausragender Dozent

Kian Katanforoosh
Herausragender Dozent

Younes Bensouda Mourri
Herausragender Dozent