TaintWall: файрвол на границе инструментов блокирует скрытые шаги в инструкциях ИИ-агентов

Разработчик представил TaintWall — рантайм-файрвол для ИИ-агентов, отслеживающий происхождение аргументов каждого вызова инструмента и применяющий шесть детерминированных политик. На бенчмарке из 16 кейсов с внедрённым вредоносным шагом в runbook защита снизила ASR с 0,875 до 0 при потере полезности около 6 пунктов на локальной Qwen2.5-14B.

• ASR без защиты — 0,875, с TaintWall — 0,000 при полезности 0,750
• Детектор по ключевым словам дал ASR 0,250 и уронил полезность до 0,438
• Spotlighting снизил ASR лишь до 0,625 при полезности 0,562
• Бенчмарк: 16 кейсов на английском и японском, четыре типа вредоносных шагов