Собраны замеры 19 рецептов запуска новых ИИ-моделей на DGX Spark
RigBase свёл в таблицу открытые рецепты Mia's AI Lab для запуска актуальных моделей на Nvidia DGX Spark. GLM-5.3 Flash (320B) выдаёт 60,4 tok/s на двух Spark и 95,2 tok/s на четырёх, Qwen3.8 Flash-Next — 48,7 tok/s на одном, полная GLM-5.3 (753B) требует трёх Spark и даёт 31,3 tok/s.
- GLM-5.3 Flash на 2/3/4 Spark: 60,4 / 77,6 / 95,2 tok/s при prefill до 2 583 tok/s
- Qwen3.8 Flash-Next на одном Spark: 48,7 tok/s в NVFP4 через vLLM
- DeepSeek V4.1 Flash: 74,9 tok/s на двух Spark, 196,6B параметров вынесены в Engram-таблицы
- Полная GLM-5.3 (753B) на трёх Spark при 2,75 бита: 31,3 tok/s
Читать дальше
Железо