PyTorch 2.15 принёс FP8 и ускорение декодирования на Mac

PyTorch 2.15 заменил пути MPSGraph на нативные Metal-ядра для F.linear и группового матричного умножения, добавил квантование FP8 на MPS и нативный grouped matmul для декодирования MoE-моделей. Декодирование MoE ускорилось в 5–6,5 раза, память видео-VAE снизилась с 270 ГиБ до 8 ГиБ, FP8 примерно вдвое сокращает память под параметры. Требуются macOS 15+ и Python 3.11+.

• Декодирование MoE-моделей на Mac ускорилось в 5–6,5 раза
• Память видео-VAE снизилась с 270 ГиБ до 8 ГиБ
• FP8 сокращает память под параметры примерно вдвое
• Нужны macOS 15+ и Python 3.11+