Эксперты обсудили скрытые сбои и управление ИИ-агентами в продакшене

На вебинаре InfoQ инженеры ThoughtWorks, специалисты по приватности и финансовому ИИ разобрали реальные проблемы агентных систем: семантический и эмбеддинг-дрейф, утечки данных через промпты и RAG, неподъёмный объём ревью кода от ИИ-ассистентов. Рекомендации: автоматизировать проверки в CI/CD, версионировать MCP-зависимости и выдавать агентам отдельные идентичности с ограниченными правами.

• Семантический дрейф в text-to-SQL искажает бизнес-аналитику незаметно для трейсинга
• Фоновое обновление эмбеддинг-модели вызвало всплеск ложных срабатываний при зелёных метриках
• Ревью кода вручную не масштабируется под объём кода от ИИ-агентов
• Агентам советуют давать отдельные идентичности и изолировать API-секреты в песочницах