NIST, NSA и CISA выпустили правила реагирования на сбои ИИ-агентов

Агентства США опубликовали отчёт о десяти ключевых практиках реагирования на нештатное поведение ИИ-агентов. Они разбиты на пять этапов: подготовка, обнаружение, реагирование, восстановление и отчётность. Документ использует термин «сверхинтеллект» (SI) согласно указу 14434.

• Практики сгруппированы в пять этапов: prepare, detect, respond, recover, report
• Подготовка включает инвентаризацию рисков, least privilege и zero-trust
• Реагирование требует изоляции систем, отзыва ключей и анализа первопричины
• Отчётность: уведомление пострадавших, властей и публичное раскрытие деталей