Kyutai выпустила Voice of Reason: голосовые модели решают математику вслух

Kyutai представила две открытые модели speech-to-speech на базе GLM-4-Voice-9B, решающие математические задачи вслух без этапа транскрипции. Точность на устном GSM8K выросла с 27,3% до 77,1% благодаря SFT и обучению с подкреплением; обе модели работают на одной H100.

• Точность на устном GSM8K выросла с 27,3% до 77,1% после SFT и RL
• Модели glm-4-voice-of-reason-9b и stitch-9b открыты на Hugging Face
• Обучение шло на 16 H100, 150 616 задач Orca-Math и 1500 RL-обновлений
• Без температурной коррекции точность падала с 65,5% до 12,3%