Context Language Models: ИИ-агенты сами управляют своим контекстом

Исследователи из Вашингтонского университета, Meta Superintelligence Labs, MIT и Trillium Labs представили Context Language Models (CLM): модель получает живой контекст как файл и сама его редактирует. На бенчмарке BrowseComp-Plus CLM дала 59,4% точности против 53,4% у лучшего базового метода при 21,5% меньших затратах на переиспользование префикса.

• CLM даёт модели право добавлять, переписывать и удалять данные в рабочем контексте
• BrowseComp-Plus: 59,4% против 53,4% у Codex-подобного суммирования
• Экономия prefix-reuse FLOPs — 21,5% на том же бенчмарке
• На 12-часовом EdgeBench CLM на 5% точнее при 59% меньших затратах