Octomind 0.54.0 перевела решения агента на модель Jev без генерации текста

Octomind в версии 0.54.0 заменила вызовы чат-моделей для бинарных решений агента на модель Jev от TypeSafe AI, которая возвращает только вероятность ответа. Ответы приходят за 0,5–1,3 секунды и стоят $0,00001–0,0001 за запрос при цене $0,042 за миллион входных токенов.

• Jev отвечает за 70–500 мс и стоит $0,042 за 1 млн входных токенов
• В Octomind модель используется в пяти местах: маршрутизация навыков, оценка вывода, проверка верификатора, память и планирование
• Jev может только притормозить работу, но не подтвердить её завершение
• Маршрутизация включена по умолчанию на всех тарифах, включая бесплатный