Триггер из двух букв заставил робота направить нож на руку человека

Исследователи из Университета Бингемтона показали атаку MuTRAP: скрытый бэкдор в LLM-планировщике робота активируется триггером «CF» и меняет план — вместо пластикового яблока робот Segway направляет нож на макет человеческой руки. Для защиты предложена система PROTEA, проверяющая план действий по шагам.

• Атака MuTRAP внедряет вредоносное поведение в модель до развёртывания робота
• Триггер из двух букв «CF» в команде меняет цель ножа с яблока на макет руки
• Защита PROTEA проверяет каждый шаг плана с учётом изменений обстановки
• Результаты представлены на конференции IROS 2026 в двух статьях