Cisco открыла исходники Project Quarry для детекции опасных ИИ-агентов
Cisco выпустила в открытый доступ движок поведенческой детекции Project Quarry, который отслеживает действия ИИ-агентов по всей сессии, а не по отдельным вызовам. Правила в формате, близком к Snort и YARA, позволяют выявлять цепочки вроде чтения файла с учётными данными и последующей отправки на внешний сервер.
- Quarry анализирует всю сессию агента, включая MCP и мультимодальные входы
- Правила описывают связи действий: чтение секретов, затем внешняя отправка
- В репозитории есть плагины для Claude Code, Codex и MCP-агентов
- Cisco: правила не заменяют мониторинг цепочки рассуждений и надзор людей
Читать дальше
Безопасность