Loopers-OSS: открытый AI-фаервол сокращает расходы на LLM на 68%
Loopers-OSS представил открытый AI-фаервол на уровне прокси, который перехватывает раздутые выводы инструментов MCP, выносит крупные данные в зашифрованное хранилище и маршрутизирует промежуточные шаги на дешёвые модели. В тестах на 60 ходах агента расход входных токенов упал на 75,79%, общий счёт за LLM — на 68,35%, а повторные read-only вызовы отдаются из памяти за 3,8 мс.
- Сокращение входных токенов на 75,79% и счёта за LLM на 68,35% на 60 ходах агента
- Экономия 94,6% на первичных шагах разведки за счёт дешёвых моделей
- Повторные read-only вызовы инструментов отдаются из памяти за 3,8 мс
- Детерминированные политики, пороги семантического дрейфа и лимиты бюджета против runaway-агентов
Читать дальше
ИИ