Microsoft призвала делать ИИ-системы наблюдаемыми с аварийным отключением

Microsoft призвала организации проектировать ИИ-системы как наблюдаемую и управляемую инфраструктуру, а не «чёрные ящики». По мнению компании, операторы должны отслеживать поведение моделей и иметь возможность остановить их в экстренной ситуации.

• Microsoft предлагает проектировать ИИ как наблюдаемую инфраструктуру
• Операторы должны видеть поведение моделей в реальном времени
• Предусмотрено аварийное отключение ИИ-систем
• Компания критикует подход «чёрного ящика» к ИИ