AntAngelMed: открытая медицинская MoE-модель на 103B с 6,1B активных параметров
Ant Healthcare и Центр медицинской информации Чжэцзяна выпустили AntAngelMed — открытую медицинскую MoE-модель на 103B параметров с 6,1B активных, лицензией Apache-2.0 и контекстом 128K. Модель заняла первое место в MedBench v4 и стала лучшей среди открытых в HealthBench, выдавая более 200 токенов/с на H20.
- 103B параметров всего, 6,1B активных на инференсе, лицензия Apache-2.0
- Контекст 128K, более 200 токенов/с на H20, есть FP8 и GGUF-версии
- 1-е место в MedBench v4 и лучший открытый результат в HealthBench
- Обучение в 3 этапа: медицинский pretraining, SFT, RL с GRPO
Читать дальше
ИИ