Ingénierie de la performance des systèmes d'IA : Optimisation des charges de travail d'entraînement et d'inférence de modèles avec les GPU, CUDA et PyTorch

Améliorez les capacités de performance de votre système d'IA grâce à ce guide définitif pour maximiser l'efficacité à travers chaque couche de votre infrastructure d'IA. À l'ère actuelle des modèles génératifs en constante évolution, l'ingénierie des performances des systèmes d'IA fournit aux ingénieurs, chercheurs et développeurs un ensemble pratique de stratégies d'optimisation actionnables. Apprenez à co-optimiser le matériel, les logiciels et les algorithmes pour construire des systèmes d'IA résilients, évolutifs et rentables qui excellent à la fois en entraînement et en inférence. Rédigée par Chris Fregly, un leader en ingénierie et en produits axé sur la performance, cette ressource transforme des systèmes d'IA complexes en solutions d'IA simplifiées et à fort impact.

À l'intérieur, vous découvrirez des méthodologies pas à pas pour affiner les kernels CUDA GPU, les algorithmes basés sur PyTorch, et les systèmes d'entraînement et d'inférence multinœuds. Vous maîtriserez également l'art de la mise à l'échelle des clusters GPU pour des performances élevées, des tâches d'entraînement de modèles distribués et des serveurs d'inférence. Le livre se termine par une liste de contrôle de plus de 175 éléments d'optimisations éprouvées et prêtes à l'emploi.

Co-concevez et optimisez le matériel, les logiciels et les algorithmes pour atteindre un débit maximal et des économies de coûts. Mettez en œuvre des stratégies d'inférence de pointe qui réduisent la latence et augmentent le débit dans des environnements réels. Utilisez des outils et des frameworks de scalabilité leaders de l'industrie. Profilez, diagnostiquez et éliminez les goulots d'étranglement de performance à travers des pipelines d'IA complexes. Intégrez des techniques d'optimisation complètes pour des performances de système d'IA robustes et fiables