LEANN сжал RAG-индекс на 60 млн чанков с 201 ГБ до 6 ГБ

Лаборатория Sky Computing Lab Калифорнийского университета в Беркли выпустила открытый векторный индекс LEANN, который не хранит эмбеддинги, а пересчитывает их при запросе. Индекс на 60 млн чанков Wikipedia занимает 6 ГБ вместо 201 ГБ, при этом точность на NQ совпадает с HNSW (25,5%), но поиск идёт 2,48 с против 0,05 с. Код под лицензией MIT, работа получила награду MLSys 2026.

• Индекс на 60 млн чанков сжат с 201 ГБ до 6 ГБ
• Точность на NQ 25,5% — как у HNSW, но при 4 ГБ вместо 188 ГБ
• Поиск на NQ занимает 2,48 с против 0,05 с у HNSW
• Код под MIT, установка через uv pip install leann