Qwen3.8-Flash-Next: разбор архитектуры и бенчмарки на A100

Энтузиаст разобрал архитектуру Qwen3.8-Flash-Next — модели на 125 млрд параметров с разреженным вниманием QSA, n-gram эмбеддингами в DRAM и MoE на 512 экспертов. Поддержка в llama.cpp появилась 28 августа 2026 года, автор прогнал модель в квантовании UD-Q2_K_XL на NVIDIA A100 80 ГБ.

• Модель: 125B основных параметров, 51B n-gram эмбеддингов, 4B MTP, 48 слоёв
• Архитектура: 12 блоков по 3 слоя GDN и 1 слою QSA, MoE на 512 экспертов
• Поддержка в llama.cpp добавлена PR #27742 от Unsloth AI 28 августа 2026 года
• Бенчмарки и логи агентского запуска сняты на A100 80 ГБ в квантовании UD-Q2_K_XL