WebGPU в браузере ускорил удаление фона в 6 раз, но выдавал неверную маску
Разработчик сервиса Koutuxia обнаружил, что бэкенд WebGPU в ONNX Runtime Web 1.27 при инференсе квантованной модели BiRefNet считает неверные значения: около 75% кадра попадает в полупрозрачную зону вместо 0,8% на WASM. WebGPU отключили в продакшене 13 сентября, а переход на fp16-веса в WASM сократил инференс с 16,8 до 6,95 с.
- На WebGPU int8-модель дала 75,1% полупрозрачной зоны против 0,8% на WASM
- fp32 на WebGPU совпал с WASM, что указало на путь DequantizeLinear для int8
- На семи объектах AIM-500 WASM обошёл WebGPU: медиана SAD 1,10 против 6,15
- fp16-веса в WASM ускорили инференс с 16,8 до 6,95 с при расхождении альфы ~1e-5
Читать дальше
ИИ