Underdog выпустила Saluki 27B — 2-битную GGUF-модель Qwen3.8-27B на 7,89 ГБ

Conway Research выпустила Underdog Saluki 27B под лицензией Apache 2.0 — 2-битную GGUF-версию Qwen3.8-27B, которая занимает 7,89 ГБ вместо 54 ГБ в BF16. Модель работает в стандартном llama.cpp с полной выгрузкой на GPU и обходит полную версию в вызове инструментов: 88 против 84 в Underdog Bench.

• Размер 7,89 ГБ против 54 ГБ у BF16, 27B плотных параметров
• Среднее сохранение качества 96% на 9 бенчмарках
• Параллельные вызовы инструментов: 42 против 35 у полной модели
• AIME 2025: 79,2 против 96,7 — падение до 82%