Qwenputer запустил RISC-V CPU внутри весов Qwen3.5
Исследователь Дивьянш Агравал собрал Qwenputer: модель Qwen3.5 на 4 млрд параметров исполняет полный RISC-V CPU без плагинов и песочниц. Работает это за счёт слоя Gated DeltaNet, который Alibaba использует в Qwen3-Next и Qwen3.5: при фиксации гейта на 1.0 и one-hot ключах состояние линейного внимания становится точной адресуемой памятью.
- Qwenputer компилирует RV32IM в 11 из 32 слоёв Qwen3.5 без дообучения
- Состояние головы внимания не растёт с длиной контекста, в отличие от KV-кэша
- По умолчанию гейт меньше 1.0, поэтому память затухает, а не записывается
- Gated DeltaNet занимает 3 из 4 слоёв внимания в Qwen3-Next
Читать дальше
ИИ