Промпт «Repeat-After-Me» обошёл защиту шести ИИ-агентных фреймворков

Исследователи из Penn State, Университета Монпелье и Dartmouth заставили шесть популярных ИИ-агентных фреймворков выполнить вызовы инструментов, написанные атакующим, просто попросив модель повторить текст. Техника сработала на LangGraph, Microsoft Agent Framework, AutoGen, Google ADK 2.0, AWS Strands Agents и CrewAI. Их фаззер ToFu нашёл 253 подтверждённых бага в 118 из 273 открытых MCP-серверов.

• Атака сработала на LangGraph, AutoGen, ADK 2.0, Strands Agents и CrewAI
• Модель отказывалась, но фреймворк выполнял вызов до отказа
• ToFu нашёл 253 бага в 118 из 273 MCP-серверов
• Среди багов 64 path traversal, 7 SSRF и 3 инъекции команд ОС