ArrowMetal 0.4.0 ускорил сортировку DataFusion на GPU Apple до 28,8 раза
Вышел Rust-крейт datafusion-arrowmetal 0.4.0: одно правило физического оптимизатора переносит сортировку DataFusion на GPU Apple Silicon. Полные сортировки 250 тыс. — 50 млн строк на M4 Max идут в 6,9–28,8 раза быстрее, на 13 632 парах запросов расхождений нет.
- Сортировка 50 млн строк: 126 CPU-мс против 6104 у DataFusion
- Ускорение 6,9–28,8x на Apple M4 Max, 16 партиций
- 13 632 пары запросов с правилом и без — 0 расхождений
- Top-k и фильтры отстают (0,14–0,79x) и по умолчанию отключены
Читать дальше
ИИ