AI and Third-Party Risk: Solutions for Assessing and Managing Your AI Vendors and Systems

Книга посвящена управлению рисками, связанными с использованием искусственного интеллекта (ИИ) в сторонних продуктах и услугах. Авторы, Грегори и Мария Раснер, предлагают практические решения для оценки и управления ИИ-вендорами и системами, начиная с основ ИИ и заканчивая конкретными фреймворками.

В первой главе рассматриваются основы ИИ, его история, жизненный цикл разработки, типы моделей, промпты и агенты. Особое внимание уделяется реальным рискам ИИ, таким как галлюцинации, утечка данных, атаки, предвзятость и масштабируемость. Авторы объясняют, как измерять и управлять этими рисками с помощью стратегий избегания, снижения, передачи и принятия.

Вторая глава фокусируется на рисках ИИ в вендорах, включая оценку таких угроз, как отсутствие прозрачности, манипуляция данными и теневой ИИ. Подробно разбираются ключевые фреймворки управления рисками ИИ: NIST AI RMF, ISO 42001, CSA AI Controls Matrix, EU AI Act, FAIR-AIR, IEEE EAD, MITRE ATLAS, Google SAIF и ISO 31000. Авторы показывают, как применять эти фреймворки на практике, включая этапы due diligence и управления поставщиками.

Книга предназначена для специалистов по управлению рисками, безопасности, комплаенсу и ИТ, а также для всех, кто работает с ИИ-решениями от сторонних поставщиков. Она предлагает структурированный подход к созданию собственных фреймворков и адаптации существующих стандартов под конкретные отраслевые нужды.