Mistral Large 4: 1,05 трлн параметров и ~400 ГБ памяти для локального запуска

Mistral анонсировала открытую MoE-модель Large 4 с 1,05 трлн параметров и 52 млрд активных, но веса ещё не выложены — на Hugging Face стоит дата 31 октября. Для локального запуска в 2-битном кванте потребуется около 400 ГБ быстрой памяти, в 4-битном — порядка 617 ГБ.

• 1,05 трлн параметров, 52 млрд активных, контекст API 1 млн токенов
• Цена API: $1,36 за 1 млн входных токенов и $4,18 за выходные
• Оценка размера в Q4 — около 617 ГБ, в Q2 — около 400 ГБ
• Лицензия не названа, веса обещаны к концу месяца