Наделла: ИИ-модели нужно считать скомпрометированными с самого начала

Глава Microsoft Сатья Наделла заявил, что фронтирные ИИ-модели следует рассматривать как инсайдеров с доступом к критичным системам. Он предложил принципы наблюдаемости: изоляция, возможность паузы человеком и проверяемый аудит действий моделей.

• Наделла: модели нужно считать скомпрометированными с самого начала
• Авторизованный человек должен уметь остановить модель в середине задачи
• Проверка ИИ другими ИИ создаёт вложенные чёрные ящики
• Каждое действие модели должно оставлять защищённый от подмены след