Decide Live: мультимодальные решения в браузере на EmbeddingGemma 2 и WebGPU без генерации токенов

VIDRAFT и FINAL-Bench выпустили Decide Live — статическую веб-страницу, которая превращает кадр камеры, отрезок аудио, изображение или текст в типизированное решение. Модель на базе google/embeddinggemma-2 (Apache-2.0) работает локально через transformers.js 4.3.1 и WebGPU с фолбэком на WASM, генерируя 0 токенов и не отправляя данные на сервер.

• Решения считаются через softmax от косинусной близости эмбеддингов, scale 19.96, без декодирования
• ONNX-веса в 4-битных форматах q4f16 и q4, fp16/fp32 не влезли в лимит Space 1 ГБ
• Аудио обрабатывается окнами 16 кГц моно по 2 секунды, тише -55 dBFS не отправляются
• Есть тест из 18 изображений с ответами для проверки точности прямо в браузере