FSB призвал усилить контроль человека над агентным ИИ

Совет по финансовой стабильности (FSB) опубликовал финальные рекомендации для банков и компаний по управлению рисками агентного ИИ. В них усилены требования к человеческому надзору: для рискованных сценариев нужны чёткие триггеры, при которых агент обязан запрашивать одобрение человека.

• FSB усилил рекомендации по агентному ИИ после отзывов на июньский драфт
• Для высокорисковых задач требуется более интенсивный контроль человека
• Компании должны задать триггеры, при которых агент запрашивает одобрение
• Из рекомендаций убрали тезис о том, что ИИ — «синтетический сотрудник»