tehno24.ru
← Софт
Софт22 октября 2026, 12:49

В Ollama keep_alive в запросе отменяет выгрузку модели и блокирует очередь

При OLLAMA_MAX_LOADED_MODELS=1 запрос к загруженной модели с параметром keep_alive отменяет запланированную выгрузку, и запрос к другой модели ждёт всё время keep_alive. На Ollama 0.40.8 второй запрос ответил за 9 секунд без keep_alive и не ответил за 150 секунд с keep_alive 30m; выгрузка через keep_alive: 0 освободила очередь за 1,5 секунды. Исправление предложено в PR #19190 и пока не вышло в релиз.

В Ollama keep_alive в запросе отменяет выгрузку модели и блокирует очередь
#Ollama
Читать дальше
Регулирование

Финляндия отменяет очередь на подключение к электросетям для дата-центров

Регулирование

Ethereum Foundation запустила zkAPI для анонимной оплаты ИИ-запросов

Софт

Portainer 3.0 отменяет Community Edition: только Kubernetes и платная лицензия

Софт

Канада отменяет переход на летнее время: сбои в планировщиках