Optimize TensorFlow Models For Deployment with TensorRT

4.6
Sterne

56 Bewertungen

von

3.383 bereits angemeldet

In diesem Kostenloses angeleitetes Projekt werden Sie:

Optimize Tensorflow models using TensorRT (TF-TRT)

Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision

Observe how tuning TF-TRT parameters affects performance and inference throughput

Präsentieren Sie diese praktische Erfahrung in einem Vorstellungsgespräch

1.5 hours
Mittel
Kein Download erforderlich
Video auf geteiltem Bildschirm
Englisch
Nur Desktop

This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput. Prerequisites: In order to successfully complete this project, you should be competent in Python programming, understand deep learning and what inference is, and have experience building deep learning models in TensorFlow and its Keras API. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.

Anforderungen

It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API

Kompetenzen, die Sie erwerben werden

  • Deep Learning

  • NVIDIA TensorRT (TF-TRT)

  • Python Programming

  • Tensorflow

  • keras

Schritt für Schritt lernen

In einem Video, das auf einer Hälfte Ihres Arbeitsbereichs abgespielt wird, führt Sie Ihr Dozent durch diese Schritte:

  1. Introduction and Project Overview

  2. Setup your TensorFlow and TensorRT Runtime

  3. Load the Data and Pre-trained InceptionV3 Model

  4. Create batched Input

  5. Load the TensorFlow SavedModel

  6. Get Baseline for Prediction Throughput and Accuracy

  7. Convert a TensorFlow saved model into a TF-TRT Float32 Graph

  8. Benchmark TF-TRT Float32

  9. Convert to TF-TRT Float16 and Benchmark

  10. Converting to TF-TRT INT8

Ablauf angeleiteter Projekte

Ihr Arbeitsbereich ist ein Cloud-Desktop direkt in Ihrem Browser, kein Download erforderlich

Ihr Dozent leitet Sie in einem Video mit geteiltem Bildschirm Schritt für Schritt an.

Bewertungen

Top-Bewertungen von OPTIMIZE TENSORFLOW MODELS FOR DEPLOYMENT WITH TENSORRT

Alle Bewertungen anzeigen

Häufig gestellte Fragen

Da Ihr Arbeitsbereich einen Cloud-Desktop enthält, der für einen Laptop oder Desktop-Computer ausgelegt ist, sind angeleitete Projekte auf Ihrem Mobilgerät nicht verfügbar.

Die Dozenten bei angeleiteten Projekten sind Fachexperten, die Erfahrung in den Fähigkeiten, Werkzeugen oder Bereichen der jeweiligen Projekte haben und leidenschaftlich daran interessiert sind, ihr Wissen weiterzugeben und so Millionen von Lernenden auf der ganzen Welt zu beeinflussen.

Sie können alle von Ihnen erstellten Dateien aus dem angeleiteten Projekt herunterladen und speichern. Zu diesem Zweck können Sie die Funktion „Dateibrowser“ verwenden, wenn Sie auf Ihren Cloud-Desktop zugreifen.

Oben auf der Seite können Sie auf das Erfahrungsniveau für dieses angeleitete Projekt klicken, um das vorausgesetzte Wissen anzuzeigen. Auf jedem Niveau führt der Dozent Schritt für Schritt durch das angeleitete Projekt.

Ja, alles, was Sie zum Abschließen Ihres angeleiteten Projekts benötigen, finden Sie auf einem Cloud-Desktop, der in Ihrem Browser verfügbar ist.

Sie lernen durch Praxis, indem Sie Aufgaben in einer Split-Screen-Umgebung direkt in Ihrem Browser erledigen. Auf der linken Seite des Bildschirms erledigen Sie die Aufgabe in Ihrem Arbeitsbereich. Auf der rechten Seite des Bildschirms sehen Sie einen Dozenten, der Sie schrittweise durch das Projekt führt.