THX-01: открытая модель на 322M параметров для классификации заявок за ~10 мс
Команда разработчиков выложила в открытый доступ THX-01 — неавторегрессионную модель на 322M параметров (энкодер mmBERT-base и решающая голова на 15M) под лицензией Apache 2.0. Она отвечает на типизированные вопросы (выбор, да/нет, оценка, число, цитата) за один проход и обрабатывает запрос примерно за 10 мс на одном GPU или до 3000 решений в секунду в батче.
- 322M параметров: mmBERT-base плюс решающая голова на 15M, лицензия Apache 2.0
- Точность 98,4% на бенчмарке из 2843 заявок против 98,5% у Claude Sonnet 5.5
- Задержка ~10 мс на GPU против 1,5 с у Sonnet 5.5, работает и на CPU
- Калиброванные вероятности (ECE 0,003): ~75% заявок обрабатываются автоматически без ошибок
Читать дальше
ИИ