Ollama 0.34.1 убрала поддержку LoRA-адаптеров
С версии 0.34.1 (сентябрь 2026) Ollama отклоняет Modelfile с директивой ADAPTER и больше не конвертирует safetensors в GGUF и не квантует GGUF. Теперь LoRA-файнтюн запускают либо через слияние адаптера с базовой моделью и импорт единого GGUF, либо через llama-server --lora из llama.cpp.
- Версия 0.40.7 от 18 октября 2026 по-прежнему отклоняет ADAPTER
- Конвертацию и квантование GGUF перенесли в инструменты llama.cpp
- Слитый в GGUF адаптер на CPU генерировал примерно на 13% быстрее
- Старые модели с адаптером работают, но с предупреждением об устаревании
Читать дальше
ИИ