Parallel and High Performance Computing

Книга представляет собой всестороннее руководство по параллельным и высокопроизводительным вычислениям, охватывающее как теоретические основы, так и практические аспекты. Авторы, имеющие многолетний опыт в HPC, начинают с введения в параллельные вычисления, планирования параллелизации и анализа производительности. Затем подробно рассматриваются векторные вычисления, OpenMP и MPI для CPU, а также архитектура GPU, модели программирования (CUDA, OpenACC) и инструменты профилирования. Завершается книга обсуждением экосистемы HPC: привязка к ядрам, пакетные планировщики, параллельные файловые операции и инструменты для улучшения кода. Каждая глава содержит практические примеры и рекомендации по оптимизации.