tehno24.ru
← ИИ
ИИ3 октября 2026, 14:45

vLLM игнорирует rank_pattern и alpha_pattern в LoRA-адаптерах

В vLLM 0.30.0 при загрузке PEFT LoRA-адаптера читаются только r и lora_alpha, а rank_pattern и alpha_pattern отбрасываются без предупреждения, из-за чего модули с индивидуальным масштабом считаются неверно. На тесте с Qwen3 расхождение лог-вероятностей с PEFT выросло с 0,0003 до 0,0211; предложенный фикс #59801 пока не принят.

vLLM игнорирует rank_pattern и alpha_pattern в LoRA-адаптерах
#VLLM#PEFT#Qwen3#OLMoE
Читать дальше
ИИ

Alpha School: учеников контролировали люди из колл-центров, а не ИИ

ИИ

Union Alpha оказался blended-моделью Pareto от unbiased.ai и стал платным

ИИ

Ai2 выпустила Olmo-core 3 для обучения MoE на триллион параметров

ИИ

Ai2 открыла модель AstaBrief 8B для быстрой генерации научных отчётов