Стэнфорд представил NCM — иерархическую генерацию текста вместо токенов

Hazy Research из Стэнфорда описала архитектуру Next-Concept Modeling: модель строит иерархию дискретных кодов от общего представления к деталям, а не генерирует токен за токеном. Заявлено ускорение инференса в 10–31 раз относительно диффузионных базлайнов и в 4–5 раз меньше токенов на обучение. Код открыт под лицензией MIT.

• Инференс в 10–31 раз быстрее оценённых диффузионных базлайнов
• Обучение требует примерно в 4–5 раз меньше токенов
• Используются многоуровневый токенизатор Residual VQ-VAE и Transformer
• Код опубликован в октябре 2026 года под лицензией MIT