Google открыла исходный код ML Drift — GPU-движка для LiteRT

Google AI Edge открыла исходный код ML Drift под лицензией Apache 2.0 — кросс-платформенного GPU-движка для инференса ИИ на устройствах. Он скрывает различия OpenGL ES, OpenCL, Metal и WebGPU, поддерживает 5D-тензоры и уже работает в Chrome, YouTube Shorts, Photos и Meet.

• ML Drift работает в продакшене на миллионах устройств в Chrome, YouTube Shorts и Photos
• Поддержка 5D-тензоров и виртуализация тензоров вместо жёсткой привязки к GPU-объектам
• В бенчмарках Gemma расход памяти до 12% ниже, чем у других фреймворков
• Старый GPU-делегат TFLite больше не получит новых функций — нужна миграция