Эксперты призвали к мониторингу действий ИИ-агентов в реальном времени

Исследователи из академии и индустрии изучили четыре популярных фреймворка ИИ-агентов и нашли пробелы в наблюдаемости: нет постоянных Agent ID и записей о вмешательстве людей. На фоне инцидентов с агентами OpenAI, Anthropic, Google и Meta авторы требуют внедрить телеметрию и стандарты OpenTelemetry до масштабного развёртывания агентов.

• Изучены четыре самых популярных фреймворка ИИ-агентов
• Не хватает постоянных Agent ID и записей об одобрениях людьми
• Предложены записи «что произошло» и «как агент решил»
• Стандарты наблюдаемости нужно принять до масштабирования агентов