IQuest открыла 320B MoE-модель IQuest-Q1 для агентного кодинга
IQuest Research выложила в открытый доступ IQuest-Q1 — разреженную MoE-модель на 320 млрд параметров (около 15 млрд активных на токен) для агентного кодинга и работы с инструментами. Веса и карточка модели опубликованы на Hugging Face 28 сентября, код инференса — на GitHub под собственной лицензией.
- 320 млрд параметров всего, около 15 млрд активных на токен
- 88 слоёв, 256 экспертов, 8 активных, контекст 524 288 токенов
- Бенчмарки: 64,6 DeepSWE v1.1, 83,2 Terminal-Bench 2.1, 84,5 CyberGym
- Рекомендуется запуск через SGLang или vLLM на восьми GPU
Читать дальше
ИИ