Mistral Large 3: 128 экспертов MoE, контекст 512k и открытые веса

Mistral AI выпустила Mistral Large 3 — открытую MoE-модель со 128 экспертами (8 активных на токен), 420 млрд общих и 68 млрд активных параметров. Контекст расширен до 512 000 токенов, результаты: 53,8% в SWE-bench Verified и 65,2% в Terminal-Bench 4.0. Веса доступны под разрешительной лицензией и через La Plateforme.

• MoE-архитектура: 128 экспертов, 8 активных на токен, 420 млрд параметров всего
• 68 млрд активных параметров при декодировании и контекст 512 000 токенов
• 53,8% в SWE-bench Verified и 65,2% в Terminal-Bench 4.0
• Открытые веса в FP8/BF16 для on-premise и air-gapped развёртывания