Южная Корея готовит правила безопасности для автономных ИИ-агентов

KISA при министерстве науки и ICT разрабатывает версию 2.0 «AI Security Guide» — правила для автономных ИИ-агентов в софте, сетях и физических системах. Документ распределит ответственность: разработчики ограничивают доступ агентов к инструментам и ведут защищённые логи решений, провайдеры обеспечивают аварийное отключение, а компании настраивают права и требуют одобрения человека для рискованных действий.

• KISA готовит AI Security Guide 2.0 для автономных ИИ-агентов
• Разработчики ограничат доступ агентов к инструментам и будут вести логи решений
• Провайдеры внедрят аварийное отключение и отслеживание инцидентов
• Для рискованных действий потребуется одобрение человека