In diesem Abschnitt richten wir mithilfe von Docker eine GPU-Umgebung ein, suchen die offizielle Linux-Dokumentation und installieren das CUDA-Toolkit unter Ubuntu 20.04 oder 22.04 für KI- und Machine-Learning-Workflows.

In diesem Abschnitt stellen wir die Grundlagen der GPU-Programmierung vor, darunter die Ausführung von Kerneln, die Überprüfung von Geräten und die Einrichtung einer Arbeitsumgebung für die CUDA-Entwicklung.

In diesem Abschnitt befassen wir uns mit der SIMD-Ausführung, dem Datentransport und der parallelen Vektoraddition in der GPU-Programmierung.

In diesem Abschnitt befassen wir uns mit GPU-Thread-, Block- und Grid-Konfigurationen, asynchroner Datenübertragung, Streams, Ereignissen und gemeinsam genutztem Speicher, um die Leistung bei der parallelen Datenverarbeitung zu optimieren.

In diesem Abschnitt befassen wir uns mit dem Entwurf paralleler Algorithmen, wobei der Schwerpunkt auf Matrixoperationen, Reduktion und Lastverteilung für eine effiziente Ausführung auf der GPU liegt.

In diesem Abschnitt befassen wir uns mit der GPU-Optimierung und -Profilierung mit NVIDIA Nsight Compute.

In diesem Abschnitt befassen wir uns mit der Fehlersuche in CUDA-Code mit VS Code, der Verwendung von CUDA-Streams zur Überlappung von Speicher- und Kernel-Operationen sowie der Konfiguration mehrerer GPUs für die parallele Verarbeitung.

In diesem Abschnitt befassen wir uns mit Methoden zur Integration von C++-GPU-Code in Python, wobei der Schwerpunkt auf Ctypes, benutzerdefinierten Wrappern und der Leistungsanalyse für eine effiziente sprachübergreifende Ausführung liegt.

In diesem Abschnitt befassen wir uns mit der GPU-Entwicklung unter Verwendung von cuBLAS und Thrust, optimieren den Code im Hinblick auf Speicher- und Thread-Effizienz und führen Tests mit GTest und Pytest durch, um Zuverlässigkeit und Leistung sicherzustellen.