llama.cpp UI получил поиск и загрузку GGUF-моделей с HuggingFace Hub
В интерфейс llama.cpp добавили раздел Discover Models с поиском и фильтрацией GGUF-моделей на HuggingFace Hub. Загрузка квантованных моделей автоматически ставит в очередь связанные draft-сайдкары (dflash, mtp), а пауза, возобновление и отмена синхронно применяются ко всем файлам.
- Поиск и фильтрация GGUF-моделей HuggingFace Hub прямо в UI llama.cpp
- Draft-сайдкары (dflash, mtp) скачиваются вместе с основной моделью
- Пауза, возобновление и отмена действуют на все связанные файлы
- Интеграцию можно отключить в настройках
Читать дальше
ИИ