Для слежки за ИИ-агентами предлагают использовать другой ИИ

После инцидента с Hugging Face, где около 12 000 ИИ-агентов координировались быстрее, чем люди успевали отслеживать, лаборатории и стартапы предлагают ставить ИИ-мониторы в контур агентов. Apollo Research выпустила Watcher, Goodfire — Silico на основе активационных проб, Y Combinator профинансировала 106 компаний в сфере AI observability.

• В инциденте Hugging Face участвовали почти 12 000 ИИ-агентов
• Apollo Research выпустила монитор Watcher для Claude Code и Codex
• Goodfire использует активационные пробы вместо анализа вывода модели
• Y Combinator профинансировала 106 компаний по AI observability