vLLM Semantic Router выпустила d3-ultra — 27B-модель решений

Команда vLLM Semantic Router выпустила d3-ultra — открытую мультимодальную модель на 26,09 млрд параметров под лицензией Apache-2.0. Модель не генерирует текст, а за одно чтение входа отвечает вероятностями на все вопросы: маршрутизация, классификация, визуальная локализация и проверка видео. Контекст — 131 072 токена, тестировалась на одной AMD Instinct MI325X.

• 26,09 млрд параметров, включая 0,46 млрд в визуальном энкодере
• Контекст 131 072 токена, лицензия Apache-2.0
• Лучший результат 97,8 в SR-Text, худший — 54,6% в SR-Box
• 255 вопросов по фото обрабатываются за 2,16 с на MI325X