GPU Unlock ускорил ИИ-задачи на RTX 30-й серии до 60%
Проект GPU Unlock опубликовал бенчмарки, показывающие рост производительности в отдельных ИИ-операциях на RTX 3090 Ti. В ComfyUI прирост в BF16-режиме составил 56–59%, а в INT8 — лишь 0,3%; в vLLM обработка промптов ускорилась примерно на 33%. Модификация работает через модуль ядра Linux и не увеличивает пропускную способность памяти.
- MOSS-Image SFT в BF16: +58,6% пропускной способности на RTX 3090 Ti
- Qwen-Image 2.1 Turbo: +57,2%, Z-Image Turbo: +56,1% в BF16
- В INT8 прирост всего 0,3%, генерация токенов почти не ускоряется
- Поддержка семейств GA102, GA103, GA104 и GA106; установка требует модуля ядра Linux
Читать дальше
Железо