This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput.
Optimize TensorFlow Models For Deployment with TensorRT
Erweitern Sie Ihre Kenntnisse mit Coursera Plus für 239 $/Jahr (normalerweise 399 $). Jetzt sparen.
Optimize TensorFlow Models For Deployment with TensorRT
Dozent: Snehan Kekre
6.004 bereits angemeldet
Bei enthalten
Erwerben Sie praxisrelevante Kompetenzen unter Anleitung von Experten, üben Sie sich in ihrer Anwendung und wenden Sie sie schließlich an.
4.5
(76 Bewertungen)
Stufe Mittel
Empfohlene Erfahrung
1.5 hours
In Ihrem eigenen Lerntempo lernen
Praktisches Lernen
Was Sie lernen werden
Optimize Tensorflow models using TensorRT (TF-TRT)
Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision
Observe how tuning TF-TRT parameters affects performance and inference throughput
Kompetenzen, die Sie festigen
- Kategorie: Deep Learning
- Kategorie: Performance Tuning
- Kategorie: Convolutional Neural Networks
- Kategorie: Applied Machine Learning
Tools, die Sie verwenden werden
- Kategorie: Tensorflow
- Kategorie: Keras (Neural Network Library)
- Kategorie: Model Deployment
- Kategorie: Python Programming
Wichtige Details
Zertifikat zur Vorlage
Zu Ihrem LinkedIn-Profil hinzufügen
Unterrichtet in Englisch
Keine Downloads oder Installation erforderlich
Nur als Desktop-Version verfügbar
Erfahren Sie, wie Mitarbeiter führender Unternehmen gefragte Kompetenzen erwerben.
Lernen, Üben und Anwenden von berufsrelevanten Fähigkeiten in weniger als 2 Stunden
- Nehmen Sie an Schulungen von Branchenexperten teil
- Sammeln Sie mit Aufgaben aus der realen Welt praktische Erfahrung
- Schaffen Sie Vertrauen durch neueste Tools und Technologien
Über dieses begleitete Projekt
Schritt für Schritt lernen
In einem Video, das auf einer Hälfte Ihres Arbeitsbereichs abgespielt wird, führt Sie Ihr Dozent durch diese Schritte:
-
Introduction and Project Overview
-
Setup your TensorFlow and TensorRT Runtime
-
Load the Data and Pre-trained InceptionV3 Model
-
Create batched Input
-
Load the TensorFlow SavedModel
-
Get Baseline for Prediction Throughput and Accuracy
-
Convert a TensorFlow saved model into a TF-TRT Float32 Graph
-
Benchmark TF-TRT Float32
-
Convert to TF-TRT Float16 and Benchmark
-
Converting to TF-TRT INT8
Empfohlene Erfahrung
It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API
7 Projektbilder
Dozent
Lehrkraftbewertungen
(7 Bewertungen)11 Kurse 125.941 Lernende
von
Was Sie beim Lernen erwartet
Auf Kompetenzen basierendes, praktisches Lernen
Üben Sie die Anwendung neuer Kompetenzen anhand von berufsbezogenen Aufgabenstellungen.
Anleitung durch Experten
Lernen Sie mit vorab von Experten aufgezeichneten Videos in einer einzigartigen aufgeteilten Oberfläche.
Keine Downloads oder Installation erforderlich
Greifen Sie in einem vordefinierten Cloud-Arbeitsbereich auf die Tools und Ressourcen zu.
Nur für Desktop verfügbar
Dieses begleitete Projekt ist für die Bearbeitung an einem Laptop oder Desktop-Computer mit stabiler Internetverbindung konzipiert und nicht für Mobilgeräte.
Warum entscheiden sich Menschen für Coursera für ihre Karriere?
Felipe M.
Lernender seit 2018
„Es ist eine großartige Erfahrung, in meinem eigenen Tempo zu lernen. Ich kann lernen, wenn ich Zeit und Nerven dazu habe.“
Jennifer J.
Lernender seit 2020
„Bei einem spannenden neuen Projekt konnte ich die neuen Kenntnisse und Kompetenzen aus den Kursen direkt bei der Arbeit anwenden.“
Larry W.
Lernender seit 2021
„Wenn mir Kurse zu Themen fehlen, die meine Universität nicht anbietet, ist Coursera mit die beste Alternative.“
Chaitanya A.
„Man lernt nicht nur, um bei der Arbeit besser zu werden. Es geht noch um viel mehr. Bei Coursera kann ich ohne Grenzen lernen.“
Bewertungen von Lernenden
- 5 stars
68,42 %
- 4 stars
21,05 %
- 3 stars
5,26 %
- 2 stars
2,63 %
- 1 star
2,63 %
Zeigt 3 von 76 an
LS
Geprüft am 3. Juni 2021
Great workshop, all the concepts were very well explained.
AA
Geprüft am 14. März 2022
The first to introduce such a rare and important topic.
Ihnen könnte auch Folgendes gefallen:
DeepLearning.AI
DeepLearning.AI
Neue Karrieremöglichkeiten mit Coursera Plus
Unbegrenzter Zugang zu 10,000+ Weltklasse-Kursen, praktischen Projekten und berufsqualifizierenden Zertifikatsprogrammen - alles in Ihrem Abonnement enthalten
Bringen Sie Ihre Karriere mit einem Online-Abschluss voran.
Erwerben Sie einen Abschluss von erstklassigen Universitäten – 100 % online
Schließen Sie sich mehr als 3.400 Unternehmen in aller Welt an, die sich für Coursera for Business entschieden haben.
Schulen Sie Ihre Mitarbeiter*innen, um sich in der digitalen Wirtschaft zu behaupten.