Надежность нейронных сетей: укрепляем устойчивость ИИ к обману

Книга посвящена критически важной проблеме современного искусственного интеллекта — уязвимости глубоких нейронных сетей к целенаправленным атакам. Автор подробно рассматривает, как злоумышленники могут манипулировать входными данными, чтобы обмануть нейросети, и какие риски это создаёт для реальных систем.

В первой части книги представлены общие сведения об атаках на ИИ, мотивации злоумышленников и фундаментальные принципы работы глубоких нейронных сетей. Особое внимание уделяется обработке изображений, аудио- и видеоданных — областям, наиболее подверженным адверсарным атакам.

Вторая часть посвящена техническим методам генерации вредоносных входных данных. Автор объясняет базовые принципы создания искажений, которые незаметны для человека, но способны кардинально изменить вывод нейронной сети. Рассматриваются различные подходы к созданию адверсарных примеров.

Третья часть фокусируется на реальных угрозах: схемах атак против действующих систем и атаках в физическом мире. Эти главы показывают, как теоретические уязвимости превращаются в практические риски для автономных автомобилей, систем распознавания лиц и других критически важных приложений.

Заключительная часть книги предлагает практические методы защиты: оценку устойчивости моделей, конкретные техники защиты от вредоносных входных данных и перспективные направления повышения надёжности ИИ-систем. Книга содержит математический справочник и будет полезна как специалистам по безопасности, так и разработчикам систем машинного обучения.