Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность

12+
12+

78 просмотров

5 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

78 просмотров

5 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

78 просмотров

5 дней назад

13 ноября CyberThreatTech представляет CTT AI ATTACK PULSE — новый продукт класса Threat Intelligence для защиты систем искусственного интеллекта. CTT AI ATTACK PULSE - первый в России и странах СНГ специализированный коммерческий фид машиночитаемых знаний об атаках на ИИ. Что предлагает CTT AI ATTACK PULSE? CyberThreatTech собирает и анализирует отчёты об атаках на искусственный интеллект, систематизирует тактики, техники и процедуры (TTP) и преобразует их в структурированные машиночитаемые знания. ТАЙМКОДЫ ВЕБИНАРА CTT AI ATTACK PULSE 00:00:00 - Начало записи 00:02:06 - Приветствие и тема вебинара 00:03:14 - Темпы внедрения искусственного интеллекта 00:03:43 - ИИ в России и СНГ: ограничения внедрения 00:04:27 - Почему информационная безопасность не успевает за ИИ 00:05:07 - Современная AI-инфраструктура 00:05:21 - Восьмиуровневая архитектура AI-агентов 00:05:59 - Ограничения традиционных средств защиты 00:06:52 - Атаки на ИИ и атаки с использованием ИИ 00:07:15 - Прямые контентные атаки 00:07:33 - Мультимодальные атаки на ИИ 00:07:52 - Текст, изображения и аудио как векторы воздействия 00:08:24 - Вредоносные инструкции внутри изображений 00:08:54 - ИИ как оркестратор кибератаки 00:09:57 - Использование корпоративного ИИ злоумышленником 00:10:16 - ИИ для генерации вредоносной нагрузки 00:10:56 - Статистика исследований AI-атак 00:11:31 - Теоретические и подтверждённые атаки 00:11:51 - Рост воспроизводимых сценариев атак 00:12:38 - Наиболее исследуемые AI-модели 00:13:17 - Атаки на агентов, API и RAG 00:13:56 - Классический Threat Intelligence: Report Hub 00:14:36 - Индикаторы компрометации и TTP 00:15:45 - Как работает AI Firewall 00:16:12 - Семантическое обнаружение вредоносных запросов 00:16:41 - Корреляция событий 00:16:47 - Guardrails и контроль поведения ИИ 00:17:28 - AI Threat Intelligence против традиционного TI 00:17:52 - Почему ручной анализ угроз не масштабируется 00:18:38 - Научная гипотеза или реальная атака? 00:19:06 - ИИ как объект и инструмент атаки 00:19:15 - Применимость атак к конкретной инфраструктуре 00:19:29 - Полнота описания сценария атаки 00:20:00 - Почему порядок шагов атаки критически важен 00:20:33 - Состояние системы и признаки успеха 00:21:02 - Граф атаки 00:21:28 - Подход Attack Flow 00:21:45 - Переход к AI ATTACK PULSE 00:21:57 - Ключевые задачи нового продукта 00:22:21 - Граф переходов и зависимостей 00:22:42 - Использование данных средствами защиты 00:23:16 - Экосистема CTT CTI Lake 00:23:41 - Incident Hub 00:23:58 - Report Hub и Threat KB 00:24:31 - Классический Threat Feed 00:24:37 - AI ATTACK PULSE внутри CTI Lake 00:25:11 - Исследования и независимые эксперты 00:25:43 - GitHub как источник данных об атаках 00:26:14 - Агрегаторы исследовательских публикаций 00:26:25 - Более 500 источников мониторинга 00:27:11 - Конвейер обработки информации 00:27:28 - Фильтрация нерелевантных материалов 00:28:02 - Анализ PDF, HTML и GitHub 00:28:34 - Связь с первоисточниками 00:29:11 - Markdown и нормализация данных 00:29:51 - Материалы и записи об атаках 00:30:17 - Многоязычные источники и переводы 00:30:51 - Несколько атак в одном исследовании 00:31:23 - Воспроизводимость атак 00:31:52 - Оценка опасности: scoring и severity 00:32:01 - Развитие механизма скоринга 00:32:31 - Артефакты и контекст их применения 00:33:21 - Извлечение схем атак из изображений 00:33:46 - Построение пошагового графа атаки 00:34:15 - MITRE ATLAS и классификация техник 00:34:34 - Артефакты в узлах графа 00:36:12 - Демонстрация портала AI ATTACK PULSE 00:36:28 - Ограничения существующих TI-платформ 00:36:52 - Доставка данных через API 00:37:25 - Поиск материалов и атак 00:38:04 - Демонстрация первого сценария атаки 00:38:19 - Поддельный юридический документ обходит Guardrails 00:38:57 - Нарушение режима read-only в Notion 00:39:38 - Переводы исследовательских материалов 00:40:07 - Оригинальный документ атаки 00:40:39 - Последствия и признаки успеха 00:41:10 - Оценка опасности первой атаки 00:41:20 - Условия применимости сценария 00:41:43 - Визуальный граф первой атаки 00:42:13 - Разветвления сценария 00:42:57 - Mind Virus: заражение поведения других AI-агентов 00:43:41 - Оценка опасности межагентной атаки 00:44:22 - Граф распространения воздействия 00:44:53 - Вредоносная нагрузка внутри AI-модели 00:45:28 - Модификация модели с Hugging Face 00:45:55 - Анализ вредоносного кода 00:46:13 - Для кого предназначен AI ATTACK PULSE 00:46:27 - ИБ-вендоры, AI Firewall, Guardrails и MSSP 00:46:57 - Стоимость собственной AI Threat Intelligence-экспертизы 00:47:43 - Использование продукта командами Red Team 00:47:55 - Применение в корпоративных SOC 00:48:07 - Три компонента AI ATTACK PULSE 00:48:21 - REST API Attack Flow Feed 00:48:26 - Attack Prompt Feed 00:48:54 - Обучение защитных моделей и создание правил 00:49:03 - Доступность продукта 00:49:12 - Полный доступ для технологических партнёров 00:49:22 - Доступ для остальных партнёров 00:49:35 - Доступ для клиентов с 10 декабря 00:49:47 - Завершение выступления

Название:

Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность