Fastino выпустила GLiNER2.5-Decide: открытая модель решений на 340M параметров

Fastino Labs представила GLiNER2.5-Decide — открытую негенеративную модель на 340M параметров для решений в агентных пайплайнах: маршрутизация, триаж, выбор инструментов, guardrails. Веса под Apache 2.0, работают на CPU, GPU и в изолированных средах, установка через pip install gliner2.

• Модель на базе DeBERTa-v3-large возвращает ответы с вероятностями и метаданными выполнимости
• Совместное декодирование связывает ответы правилами: harm_type и safety=unsafe выдаются вместе
• Лидирует в 9 из 17 датасетов Fast Decisions, 75,3% на support intent и 64,3% на banking intent
• Задержка p50: 167,3 мс на CPU Xeon, 38,3 мс на V100 при коротких запросах