Тест Unlimited-OCR 2 на 16 ГБ: качество на уровне Chandra 2, но «unlimited» не работает

Блогер протестировал выпущенную Baidu 27 октября модель Unlimited-OCR 2 (3,3 млрд параметров, лицензия MIT) на RTX 4070 Ti SUPER с 16 ГБ. По медианной ошибке распознавания она делит первое место с Chandra 2 (0,12% против 0,31%), но при 80 страницах в одном запросе исчерпала память за 74 минуты; с модифицированным SGLang время на токен остаётся стабильным.

• Unlimited-OCR 2: 3,3 млрд параметров, лицензия MIT, релиз Baidu 27 октября
• Ошибка распознавания 0,12% против 0,31% у Chandra 2 и 0,51% у Tesseract
• На 16 ГБ память выросла с 7,5 до 11,1 ГБ при 10–40 страницах, 80 страниц — OOM
• С SGLang время на токен 4,17–4,19 мс, примерно в 9 раз быстрее transformers