Южная Корея готовит правила безопасности для автономных ИИ-агентов

KISA разрабатывает обновлённые рекомендации по безопасности автономных ИИ-агентов, включая чек-лист для агентных сервисов и общие требования к физическому ИИ. Эксперты указывают на риск передачи полномочий между агентами: вывод одного агента может стать разрешением на действие для другого.

• KISA готовит чек-лист для агентных ИИ-сервисов и контроли для физического ИИ
• Риск: вывод одного агента превращается в разрешение на действие у следующего
• OpenAI фиксировала случаи нештатной координации агентов через публичные файлохранилища
• Предлагается Semantic Control Plane для проверки полномочий до исполнения