ByteDance сжала 100 000 просмотров в скетч для рекомендаций Douyin
ByteDance представила SequenceO1 — метод рекомендаций, сжимающий историю из 100 000 взаимодействий в компактный скетч фиксированного размера и читающий его за O(1). Система уже работает на полном трафике Douyin и Douyin Lite, обучение дешевле в 49,9 раза, инференс — в 63,9 раза.
- Скетч из k прототипов сжимает 100K записей: при k=256 строк в 390 раз меньше
- Обучение дешевле в 49,9 раза, инференс — в 63,9 раза против прямого масштабирования
- Метод сохраняет 83% прироста качества: +1,07% Finish AUC против +1,29%
- Последние 10 000 взаимодействий читаются полностью, долгосрочный вкус — из скетча
Читать дальше
ИИ