Gnani Evon v3.3: гибридная MoE-модель на 30B для индийских языков

Gnani выпустила модель gnani-evon-v3.3-30B-A3B с гибридной архитектурой Mamba2-Transformer MoE: 30 млрд параметров, ~3,5 млрд активных на токен, контекст 128K. Модель поддерживает 11 языков, лидирует в извлечении ответов на индийских языках (XQuAD-in 64,59 F1), но уступает Gemma и Sarvam в ряде бенчмарков.

• 30 млрд параметров, ~3,5 млрд активных, контекст 131 072 токена
• XQuAD-in 64,59 F1 и XorQA-in 41,83 F1 — лучший результат среди открытых моделей
• MILU macro 78,74 по 11 языкам, включая хинди, бенгальский и тамильский
• Уступает Gemma-4 и Sarvam в CrossSum-in, IndicIFEval и BharatMath