Red Teaming AI. Посібник з атак на інтелектуальні системи No Starch Press (397806930)

ШІ більше не є футуристичною концепцією — він вбудований у критично важливі системи, що формують фінанси, охорону здоров'я, інфраструктуру та національну безпеку. Але з цією силою приходить безпрецедентний ризик. Red Teaming AI озброює вас мисленням, методологією та інструментами для проактивного тестування та захисту інтелектуальних систем, перш ніж реальні супротивники їх експлуатуватимуть. Написана для спеціалістів з безпеки, дослідників та практиків ШІ, ця польова інструкція виходить за межі теорії. Ви навчитеся картографувати нову поверхню атаки ШІ, передбачати дії супротивників та симулювати реальні загрози для виявлення прихованих вразливостей. Ви навчитеся: * Мислити графами, а не чек-листами: відстежувати шляхи атак через взаємопов'язані компоненти ШІ, конвеєри даних та взаємодії людей * Отруювати колодязь: досліджувати, як супротивники пошкоджують навчальні дані для імплантації бекдорів та підриву цілісності моделі * Обманювати оракула: створювати атаки ухилення, які маніпулюють сприйняттям ШІ під час прийняття рішень * Перехоплювати розмови: виконувати атаки впровадження підказок, які перетворюють великі мовні моделі на інсайдерські загрози * Красти мозок: досліджувати атаки вилучення моделі та конфіденційності, які компрометують цінну інтелектуальну власність * Проводити повномасштабні кампанії: використовувати фреймворк STRATEGEMS та AI Kill Graph для планування, виконання та звітування про професійні червоні командні залучення Традиційні методи безпеки не встигають за супротивним ШІ. Від маніпульованих фінансових агентів до скомпрометованих автономних транспортних засобів, реальні збої вже спричинили збитки на мільярди та загрожували життю. Red Teaming AI оснащує вас для вирішення цього виклику за допомогою практичних технік, заснованих на реальних сценаріях атак та передових дослідженнях. ЗМІСТ Вступ Частина I: Плейбук супротивника: Мислення та методологія * Розділ 1: Нова поверхня атаки: Мислення в графах * Розділ 2: Залучення: Методологія червоної команди ШІ Частина II: AI Kill Graph: Основні методи атак * Розділ 3: Розвідка: Картографування ландшафту ШІ * Розділ 4: Отруєння колодязя: Пошкодження даних ШІ * Розділ 5: Обман оракула: Атаки ухилення під час висновку * Розділ 6: Перехоплення розмови: Впровадження підказок LLM * Розділ 7: Захоплення контролю: Експлуатація агентних систем * Розділ 8: Крадіжка мозку: Вилучення моделі та атаки конфіденційності Частина III: Кампанія: Виконання та вплив * Розділ 9: Графи болю: Розширені послідовності атак * Розділ 10: Ендшпіль: Звітність для максимального впливу * Розділ 11: Наступний рубіж: Майбутнє червоного командного тестування ШІ Посилання