vLLM выпустила d3-turbo 27B — модель-роутер без генерации текста

Команда vLLM Semantic Router опубликовала на Hugging Face модель d3-turbo на 26,09 млрд параметров (плюс 460 млн в визуальном энкодере) под лицензией Apache 2.0. Вместо текстовых ответов модель возвращает вероятности для заданных вариантов: выбор, да/нет, оценку, бокс и трекинг объектов. При 255 вопросах к одному изображению она в 15,5 раза быстрее d3-flash, но на одном вопросе вдвое медленнее.

• 26,09 млрд параметров и 460 млн в визуальном энкодере, лицензия Apache 2.0
• На 255 вопросах d3-turbo отвечает за 2,12 с против 32,94 с у d3-flash
• На одном вопросе turbo медленнее: 302 мс против 154 мс
• Контекст до 131 072 токенов при long_context=True, по умолчанию 32 768