UW и Meta представили Context Language Models: модель сама редактирует свой контекст
Исследователи из Вашингтонского университета и Meta Superintelligence Labs опубликовали работу о Context Language Models (arXiv 2609.37725): модель управляет контекстом как файлом через Bash-команды. Qwen3.6-27B набрала 59,4% на BrowseComp-Plus против 53,4% у Codex-суммаризации, потратив на 21,5% меньше FLOPs. Код открыт под CC BY-NC 4.0, веса не выпущены.
- Qwen3.6-27B: 59,4% на BrowseComp-Plus против 53,4% у суммаризации, на 21,5% меньше FLOPs
- RL-обучение Qwen3.5-9B подняло результат с 28,8% до 42,5% при 38,8% экономии FLOPs
- На EdgeBench 12-часовые прогоны дали 44,6 против 42,3 при 59% меньше FLOPs
- Код и Suffix Cache Reuse открыты на GitHub под CC BY-NC 4.0, веса не выпущены
Читать дальше
Наука