Braco сжимает визуальные токены в 64 раза почти без потери точности
Метод Braco сокращает стандартные 576 визуальных токенов до 9 — в 64 раза — сохраняя 91,2–95,2% точности модели. Prefill-FLOPs падают до 86%, сквозное ускорение достигает 30%.
- Сжатие 576 токенов до 9 — в 64 раза
- Точность сохраняется на уровне 91,2–95,2%
- Prefill-FLOPs снижаются до 86%
- Сквозное ускорение инференса около 30%
Читать дальше
ИИ