Baichuan-M2: открытая медицинская ИИ-модель на 32,76 млрд параметров
Baichuan AI выпустила медицинскую модель Baichuan-M2 на 32,76 млрд параметров под лицензией Apache-2.0 с разрешённым коммерческим использованием. В 4-битном квантовании она работает на одной RTX 4090 с 24 ГБ памяти, а в HealthBench набирает 60,1 — выше gpt-oss-120b (57,6) и DeepSeek-R1-0528 (53,6).
- 32,76 млрд параметров, лицензия Apache-2.0, коммерческое использование разрешено
- HealthBench 60,1, Hard 34,7, Consensus 91,5, AIME24 83,4
- В BF16 нужно ~65 ГБ, в 4-битном квантовании хватает одной RTX 4090
- Вариант MTP даёт прирост пропускной способности на 58,5%
Читать дальше
ИИ