MiMo V2.6 Flash на двух Mac Studio набрала 0,6605 против 0,7909 в облаке

Энтузиасты запустили 309-миллиардную MoE-модель Xiaomi MiMo-V2.6-Flash локально на двух Mac Studio (M3 Ultra 96 ГБ и M5 Max 128 ГБ), разделив 48 слоёв и связав машины по Thunderbolt 5 RDMA. В бенчмарке Gauntlet локальный запуск с vision набрал 0,6605 против 0,7909 у облачного эндпоинта Xiaomi.

• Модель на 309 млрд параметров (15 млрд активных) занимает 161 ГБ в 4-битной MLX-конверсии
• Локально: 0,6605 за 4 ч 51 мин и 150 вызовов; в облаке: 0,7909 за 2 ч 08 мин
• Разрыв почти весь из-за потолка двух 3D-проверок: до потолка 0,8309 против 0,838
• Vision-башня подняла четыре проверки с 0–0,5 до 1,0 и сняла потолок 0,599