Optimize TensorFlow Models For Deployment with TensorRT
Optimize Tensorflow models using TensorRT (TF-TRT)
Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision
Observe how tuning TF-TRT parameters affects performance and inference throughput
Präsentieren Sie diese praktische Erfahrung in einem Vorstellungsgespräch
This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput. Prerequisites: In order to successfully complete this project, you should be competent in Python programming, understand deep learning and what inference is, and have experience building deep learning models in TensorFlow and its Keras API. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.
It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API
Kompetenzen, die Sie erwerben werden
- Deep Learning
- NVIDIA TensorRT (TF-TRT)
- Python Programming
- Tensorflow
- keras
Schritt für Schritt lernen
In einem Video, das auf einer Hälfte Ihres Arbeitsbereichs abgespielt wird, führt Sie Ihr Dozent durch diese Schritte:
Introduction and Project Overview
Setup your TensorFlow and TensorRT Runtime
Load the Data and Pre-trained InceptionV3 Model
Create batched Input
Load the TensorFlow SavedModel
Get Baseline for Prediction Throughput and Accuracy
Convert a TensorFlow saved model into a TF-TRT Float32 Graph
Benchmark TF-TRT Float32
Convert to TF-TRT Float16 and Benchmark
Converting to TF-TRT INT8
Ablauf angeleiteter Projekte
Ihr Arbeitsbereich ist ein Cloud-Desktop direkt in Ihrem Browser, kein Download erforderlich
Ihr Dozent leitet Sie in einem Video mit geteiltem Bildschirm Schritt für Schritt an.
Bewertungen
Top-Bewertungen von OPTIMIZE TENSORFLOW MODELS FOR DEPLOYMENT WITH TENSORRT
Great workshop, all the concepts were very well explained.
Häufig gestellte Fragen
Häufig gestellte Fragen
Sind angeleitete Projekte auf dem Desktop und auf Mobilgeräten verfügbar?
Wer sind die Dozenten bei angeleiteten Projekten?
Kann ich die Arbeit aus meinem angeleiteten Projekt herunterladen, nachdem ich sie abgeschlossen habe?
Wie viel Erfahrung brauche ich für dieses angeleitete Projekt?
Kann ich dieses angeleitete Projekt direkt über meinen Webbrowser abschließen, anstatt spezielle Software zu installieren?
Wie ist die Lernerfahrung bei angeleiteten Projekten?
Haben Sie weitere Fragen? Besuchen Sie das Learner Help Center.
Coursera Footer
