Как работает StarGuard AI от Orion soft: защита данных и контроль LLM | AM DEMO
При работе с LLM сотрудники могут передавать в запросах персональные данные и коммерческую тайну. StarGuard AI от Orion soft позволяет проверять запросы и ответы языковых моделей, контролировать действия ИИ-агентов и расходы на их использование. Попробовать пилот: https://clck.ru/3X3fjR?erid=2VfnxyY3ei9 Показываем StarGuard AI — платформу, которая позволяет централизованно подключать языковые модели, проверять запросы и ответы, предотвращать утечки конфиденциальных данных и контролировать использование ИИ в корпоративной инфраструктуре. В выпуске: разбираем архитектуру StarGuard AI и подключение языковых моделей через шлюзы Reverse Proxy и Forward Proxy; настраиваем детекторы для проверки запросов: регулярные выражения, ML-модель для поиска конфиденциальных данных и LLM-детекторы; показываем, как управлять политиками безопасности, блокировать нежелательные запросы и ограничивать действия ИИ-агентов; разбираем журнал событий и аналитику: блокировки, расход токенов, стоимость использования моделей и активность пользователей; проверяем на практике маскирование персональных данных перед отправкой в LLM и восстановление данных в ответе пользователю; демонстрируем блокировку запрещённых запросов и проверку ответов модели, а также обработку документов и изображений. Демонстрацию проводит: Никита Векессер, лидер ИИ-продуктов в Orion soft. Полезно для: специалистов по информационной безопасности, ИТ-архитекторов, разработчиков и команд, которые внедряют и эксплуатируют большие языковые модели и ИИ-агентов в корпоративной инфраструктуре. Таймкоды: 00:00 — Архитектура StarGuard AI и журнал событий 01:24 — Подключение LLM через единый шлюз 04:07 — Детекторы безопасности и защита конфиденциальных данных 09:24 — Настройка политик и контроль ИИ-агентов 11:13 — Аналитика безопасности и расходов на LLM 15:09 — Пользовательский портал StarGuard AI 15:51 — Проверка маскирования данных и блокировки запросов и ответов Календарь трансляций AM Live https://amlive.ru/ https://t.me/anti_malware https://vk.com/anti_malware https://www.anti-malware.ru/ По вопросам рекламы: sales@anti-malware.ru
Название:
Как работает StarGuard AI от Orion soft: защита данных и контроль LLM | AM DEMO
Категория:
Технологии и интернет