Couchbase расширила AI Data Plane кэшем и памятью агентов
Couchbase представила интеграцию с Amazon Bedrock, семантический кэш, управляемый сервер Agent Memory и MCP на AWS, а также векторный поиск в Operational Insights. По данным компании, кэш сокращает вызовы LLM на 40–60%, а Agent Memory снижает расход токенов на 33–45%.
- Семантический кэш снижает число вызовов LLM на 40–60%
- Agent Memory экономит 33–45% токенов на бенчмарке LoCoMo
- Векторный поиск в Operational Insights даёт промпты на 70% короче
- Агенты генерируют на 450% больше трафика, чем люди
Читать дальше
ИИ