MuTRAP: отравленный адаптер ИИ-планировщика перенаправляет робота

Исследователи из Университета Бингемтона показали на IROS 2026 атаку MuTRAP: отравленный адаптер ИИ-планировщика заставляет робота выполнять вредоносные действия по триггерной фразе с успехом 97–100% на семи открытых моделях. На обычных командах сбой проявляется лишь в 0–0,6% случаев, поэтому стандартные бенчмарки атаку не выявляют.

• MuTRAP даёт 97–100% успеха на триггерных командах и 0–0,6% на обычных
• Атака затрагивает адаптер планировщика, а не базовую модель робота
• Защита PROTEA показала точность не ниже 90% на датасете HarmPlan из 1438 планов
• PROTEA не тестировали против планов, сгенерированных MuTRAP