Perplexity выпустила контекстную эмбеддинг-модель pplx-embed-v2-context-9b-preview
Perplexity Research и turbopuffer представили pplx-embed-v2-context-9b-preview — контекстную модель эмбеддингов для RAG-пайплайнов. Каждый чанк кодируется с учётом всего документа, а обучение на дистилляции от токенного учителя заменяет разметку одним «золотым» фрагментом. Веса открыты на Hugging Face под лицензией MIT, модель пока нет в API Perplexity.
- Модель на 9B параметров выдаёт эмбеддинги 2048 измерений, Matryoshka-режим — 1024, есть нативный int8
- На context-bench при K=10: 45,5% Answer Recall и 40,6% Evidence Recall
- Преимущество над voyage-context-4: +14,4 пункта по answer recall и +5,0 по evidence recall
- Обучение на ~430 датасетах более чем на 50 языках, веса под MIT, требуется transformers>=5.4.0
Читать дальше
ИИ