Google открыла ML Drift — GPU-движок для ИИ-инференса на устройстве

Google выпустила ML Drift — открытый кросс-платформенный GPU-движок для локального ИИ-инференса под лицензией Apache 2.0. Он поддерживает OpenGL ES, OpenCL, Metal и WebGPU, лежит в основе LiteRT и даёт до 40% меньше задержки кадров в YouTube Shorts и до 30% ускорения в Lightroom и Snapchat.

• Поддерживает OpenGL ES, OpenCL, Metal и WebGPU, лицензия Apache 2.0
• На 12% меньше накладных расходов по памяти, чем llama.cpp и MLX LM
• В YouTube Shorts задержка кадров снижена до 40% на Android и iOS
• В Lightroom и Photoshop ускорение до 30% для ИИ-функций