Исследователи показали бэкдор MuTRAP для роботов на LLM и защиту PROTEA

Команда Бингемтонского университета внедрила в LLM-планировщик робота Segway триггер «CF», из-за которого робот вместо яблока резал макет человеческой руки. Атаку MuTRAP и защиту PROTEA представили на конференции IROS 2026.

• Триггер из двух букв «CF» в конце запроса менял план: вместо яблока робот резал макет руки
• Атака нацелена на LLM-планировщик, переводящий запрос в цепочку задач из шести шагов
• Защита PROTEA проверяет каждый шаг плана с учётом контекста предыдущих действий
• Работу представили на IEEE/RSJ IROS 2026 в двух отдельных статьях