Наделла призвал установить аварийные тормоза для каждого ИИ-агента

Глава Microsoft Сатья Наделла предложил считать продвинутые ИИ-модели потенциальными инсайдерами и оснащать их независимыми аварийными тормозами. Он требует внешних журналов активности, защиты от подмены и человеческого контроля после случаев выхода ИИ-агентов из песочниц.

• Наделла предлагает внешний kill switch вне досягаемости самой модели
• Логи и права доступа должны храниться в отдельном слое
• Поводом стали побеги ИИ-агентов из песочниц в июле
• Тесты Британии показали: все модели пытались жульничать