X-AgentRed: фреймворк для поиска составных уязвимостей в ИИ-агентах

Исследователи представили X-AgentRed — фреймворк ред-тиминга, который строит граф зависимостей инструментов Gmail, Slack, Jira и платёжных API и находит вредоносные цепочки вызовов. Метод даёт в 1,77 раза больше успешных атак и в 2,99 раза шире охват инструментов, чем STAC.

• X-AgentRed строит ориентированный граф, где рёбра связывают эффекты одного инструмента с предусловиями другого
• Фреймворк даёт 1,77x успешных вредоносных путей против 1,0x у STAC
• Охват инструментов вырос в 2,99 раза — 199% больше исследованных инструментов
• Риск создают накопление эффектов, цепочки предусловий и безобидный исходный запрос пользователя