Intel сжала 1,58-битную модель до 1,485 бита без изменения весов

Исследователи Intel представили формат BITCOS, который хранит троичные веса моделей компактнее теоретического минимума 1,58 бита. Один чекпойнт сжали до 1,485 бита на вес, ускорив декодирование до 18% на CPU и 27% на GPU без переобучения и потери точности.

• BITCOS хранит нулевые и ненулевые веса отдельно: 2 − z бита на вес
• Сжатие выгоднее стандартной упаковки при доле нулей выше 37,5%
• Ускорение декодирования: 10–18% на Xeon и 2–27% на Arc GPU
• Самый разреженный чекпойнт Qwen3-1.7B: 51,48% нулей, 1,485 бита