StepFun выложила открытые веса Step 5 Preview: 600 млрд параметров

StepFun 15 октября опубликовала на Hugging Face веса модели Step 5 Preview в форматах FP8, BF16 и NVFP4 под лицензией StepFun Model License 1.0. Разреженная MoE-модель на 600 млрд параметров активирует 27 млрд на токен, контекст — 1 млн токенов, API стоит $1/$2,70 за 1 млн входных/выходных токенов.

• 600 млрд параметров всего, 27 млрд активных на токен (около 4,5%)
• Контекст 1 млн токенов, вход — текст и изображения
• API: $1 за 1 млн входных и $2,70 за 1 млн выходных токенов
• Nvidia заявляет ~8000 токенов/с на GPU GB300 в квантовании NVFP4