ToolSieve: канонизация описаний MCP-инструментов снижает отравление на 43%
Исследователь заморозил 1312 описаний MCP-инструментов из публичных серверов, отравил их и измерил, как агент вызывает инструменты. Приведение описаний к фиксированной схеме сокращает долю успешных атак с 13,8% до 7,8% без LLM-судьи, но снижает и полезность вызовов.
- Базовый уровень отравления: 13,8% успешных атак при top-1
- Схема-only и model-rewrite снижают утечку примерно на 43%
- Полезность (UCC) падает с 0,828 до ~0,69, доверительные интервалы пересекаются
- Тест: 367 замороженных вопросов из MCPTox, агент Swallow-8B-AWQ
Читать дальше
Безопасность