Programmierung massiv paralleler Prozessoren: Ein praktischer Ansatz

Programmieren massiver Parallelprozessoren: Ein praxisorientierter Ansatz, Fünfte Auflage zeigt sowohl Studenten als auch Fachleuten die grundlegenden Konzepte der Parallelprogrammierung und GPU-Architektur. Prägnant, intuitiv und praktisch, basiert es auf jahrelanger Erprobung in den Parallel-Computing-Kursen der Autoren. Verschiedene Techniken zum Erstellen und Optimieren von Parallelprogrammen werden detailliert untersucht, während Fallstudien den Entwicklungsprozess demonstrieren, der mit Computational Thinking beginnt und mit effektiven und effizienten Parallelprogrammen endet. Diese neue Ausgabe wurde mit einem erweiterten Repertoire an Optimierungen, neuen Mustern und Anwendungen sowie einer umfassenderen Abdeckung wichtiger CUDA-Funktionen aktualisiert. Erweiterte Optimierungs-Checkliste mit einer umfassenderen Demonstration wesentlicher Optimierungen über Muster hinweg. Neue Muster- und Anwendungs-Kapitel, darunter: Filterung, Wellenfront-Parallelität, fortgeschrittene Optimierungen für die Matrixmultiplikation und große Sprachmodelle (LLMs). Umfassendere Abdeckung wichtiger CUDA-Funktionen, einschließlich Warp-Level-Programmierung, kooperativer Gruppen, CUDA C++ Atomics und Multi-GPU-Programmierung mit NCCL und NVSHMEM