LLM Gateway запустила API решений, возвращающий значения вместо текста

LLM Gateway представила эндпоинт /v1/systemone для моделей System One: они отвечают на заданные вопросы типизированными значениями с калиброванными вероятностями, без свободного текста. Первая модель — typesafe/jev-1.13.0 от TypeSafe AI по цене $0,042 за миллион входных токенов, выход бесплатный.

• Эндпоинт /v1/systemone поддерживает три типа вопросов: да/нет, выбор из 2–255 вариантов и оценку по 2–10 уровням
• Ответы приходят с вероятностями и confidence, порог принятия решения задаётся в коде
• Модель typesafe/jev-1.13.0 стоит $0,042 за млн входных токенов, выходные токены бесплатны
• Лимит — 600 запросов в минуту на организацию, стриминга нет