Transformers получил нативную поддержку GGUF, Next.js 16.3 сократил память на 90%
Transformers теперь загружает квантованные GGUF-модели напрямую через from_pretrained() без моста llama.cpp, а на Apple Silicon производительность совпадает с llama-bench. Next.js 16.3 снизил потребление памяти в dev-режиме с ~20 ГБ до ~2 ГБ за счёт дискового кэша Turbopack. Unsloth Dynamic 3.0 повысила точность квантизации на 10%, но 1-битные кванты по-прежнему ломают агентные задачи.
- Transformers грузит GGUF напрямую, Q4_K_M сжимает модель с 8,42 до 2,74 ГБ
- Next.js 16.3: память dev-режима падает с ~20 ГБ до ~2 ГБ
- Unsloth Dynamic 3.0 даёт +10% точности без переобучения
- Miri утекает секреты в target/, доступный PR из форков
Читать дальше
Софт