Google представила систему обнаружения аномалий ИИ-агентов

Google запустила Agent Anomaly Detection — слой надзора за автономными агентами на платформе Gemini Enterprise. Система выявляет злоупотребление инструментами, утечку привилегий, каскадные сбои и выход агентов из роли, публикуя находки в Security Command Center. Доступно в Private Preview.

• Детекторы покрывают риски из OWASP agentic Top 10: tool misuse, privilege abuse, каскадные сбои, rogue agents
• Анализ идёт послойно: статистика по всем трейсам, затем LLM-разбор подозрительных сессий
• Находки содержат уровень критичности, объяснение и рекомендации, доступны через API
• Требуется ADK для Python 1.2+ и включённая телеметрия OpenTelemetry