Accelerate Model Training with PyTorch 2.X

Книга посвящена ускорению процесса обучения моделей машинного обучения с использованием фреймворка PyTorch 2.X. Автор, доктор Майкон Мело Алвес, системный аналитик и академический профессор, специализирующийся на высокопроизводительных вычислениях (HPC), предлагает практические методы оптимизации.

В первой части рассматриваются основы процесса обучения и модификации на уровне приложений и окружения. Затем подробно описываются продвинутые техники: использование Compile API (нововведение PyTorch 2.0), специализированные библиотеки OpenMP и IPEX, построение эффективных конвейеров данных для максимальной загрузки GPU, упрощение моделей за счет сокращения числа параметров и снижение числовой точности для ускорения и уменьшения потребления памяти.

Отдельная глава посвящена распределенному обучению на нескольких CPU и GPU. Книга содержит код, примеры использования, викторины в конце каждой главы и связи между главами, что делает ее отличным ресурсом для студентов, исследователей и профессионалов, стремящихся ускорить обучение моделей с помощью последних возможностей PyTorch.