ИИ-агент читает документ. Как контролировать его действия

96 подписчиков

12+
12+

8 просмотров

5 дней назад

ПожаловатьсяНарушение авторских прав

96 подписчиков

12+
12+

8 просмотров

5 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

8 просмотров

5 дней назад

ИИ-агент может принять команду из документа за задачу. Объясняю, где нужны проверка вызовов, минимальные привилегии, инвентаризация и контроль действий. Материалы по безопасности ИИ-агентов: https://batrankov.ru/ai-agents/?utm_source=rutube&utm_medium=organic_video&utm_campaign=expert_series_2026&utm_content=agent_controls_episode Сокращённая версия моего выступления. Слайды и голос — из исходной записи. Полная запись: https://rutube.ru/video/667a793bc831e9ce4018bf210168266a/ 00:00 Команда из документа 00:20 Инъекции и вызовы инструментов 02:16 Контекст и чрезмерные права 03:10 Уровни защиты и контроль доступа 06:08 Реагирование и восстановление 06:22 План действий и показатели 07:34 Безопасность при внедрении Денис Батранков. Telegram: https://t.me/safebdv

Название:

ИИ-агент читает документ. Как контролировать его действия