Red Teaming AI. Полевое руководство по атакам на интеллектуальные системы No Starch Press (397806930)

ИИ больше не является футуристической концепцией — он встроен в критически важные системы, формирующие финансы, здравоохранение, инфраструктуру и национальную безопасность. Но с этой силой приходит беспрецедентный риск. Red Teaming AI вооружает вас мышлением, методологией и инструментами для проактивного тестирования и защиты интеллектуальных систем, прежде чем реальные противники их используют. Это практическое руководство, написанное для специалистов по безопасности, исследователей и практиков в области ИИ, выходит за рамки теории. Вы научитесь картировать новую поверхность атаки ИИ, предвидеть действия противников и моделировать реальные угрозы для выявления скрытых уязвимостей. Вы научитесь: * Мыслить графами, а не чек-листами: отслеживать пути атак через взаимосвязанные компоненты ИИ, конвейеры данных и взаимодействие с людьми * Отравлять колодец: исследовать, как противники повреждают обучающие данные для внедрения бэкдоров и подрыва целостности модели * Обманывать оракула: создавать атаки уклонения, которые манипулируют восприятием ИИ во время принятия решений * Перехватывать разговоры: выполнять атаки внедрения подсказок, которые превращают большие языковые модели во внутренние угрозы * Красть мозг: исследовать атаки извлечения модели и конфиденциальности, которые компрометируют ценную интеллектуальную собственность * Проводить полномасштабные кампании: использовать фреймворк STRATEGEMS и AI Kill Graph для планирования, выполнения и отчетности профессиональных красных командных операций Традиционные методы безопасности не успевают за враждебным ИИ. От манипулируемых финансовых агентов до скомпрометированных автономных транспортных средств, реальные сбои уже привели к убыткам на миллиарды и поставили под угрозу жизни. Red Teaming AI дает вам возможность справиться с этой проблемой с помощью практических методов, основанных на реальных сценариях атак и передовых исследованиях. СОДЕРЖАНИЕ Введение Часть I: Сценарий противника: Мышление и методология * Глава 1: Новая поверхность атаки: Мышление в графах * Глава 2: Операция: Методология красной команды ИИ Часть II: AI Kill Graph: Основные методы атак * Глава 3: Разведка: Картирование ландшафта ИИ * Глава 4: Отравление колодца: Повреждение данных ИИ * Глава 5: Обман оракула: Атаки уклонения при выводе * Глава 6: Перехват разговора: Внедрение подсказок LLM * Глава 7: Захват контроля: Эксплуатация агентных систем * Глава 8: Кража мозга: Извлечение модели и атаки конфиденциальности Часть III: Кампания: Выполнение и влияние * Глава 9: Графы боли: Расширенные последовательности атак * Глава 10: Финал: Отчетность для максимального воздействия * Глава 11: Следующий рубеж: Будущее красного командного тестирования ИИ Ссылки