Strata запустила 125B-модель Qwen3.8-Flash-Next на одной RTX 5090

Открытый движок Strata обслуживает 125B MoE-модель Qwen3.8-Flash-Next на арендованной RTX 5090 с 32 ГБ в 1-битной сборке DASLab (58,4 ГБ) и контекстом 256K. Один разработчик получает 144 токена/с, четверо — по 38, восемь — по 19 при неизменной суммарной пропускной способности.

• Один пользователь: 144 токена/с, первый токен менее чем за 2 с
• Четверо одновременно: по 38 токенов/с, суммарно 125
• Восемь одновременно: по 19 токенов/с, суммарно 130
• Качество на SWE-bench Verified — 75,6% против 82,8% у полной модели