tehno24.ru
← Софт
Софт13 октября 2026, 16:17

Transformers получил нативную поддержку GGUF, Next.js 16.3 сократил память на 90%

Transformers теперь загружает квантованные GGUF-модели напрямую через from_pretrained() без моста llama.cpp, а на Apple Silicon производительность совпадает с llama-bench. Next.js 16.3 снизил потребление памяти в dev-режиме с ~20 ГБ до ~2 ГБ за счёт дискового кэша Turbopack. Unsloth Dynamic 3.0 повысила точность квантизации на 10%, но 1-битные кванты по-прежнему ломают агентные задачи.

Transformers получил нативную поддержку GGUF, Next.js 16.3 сократил память на 90%
#Transformers#Next.js#Unsloth#Miri
Читать дальше
Софт

AWS Transform научился переносить данные на FSx for ONTAP напрямую

Софт

Next.js выпустила v16.3.6 и v15.5.26 с патчами next/og

ИИ

Исследование: гетерогенные механизмы внимания в трансформерах дают выигрыш только при разных семействах

ИИ

Принстон предложил Recurrent Looped Transformer с рекуррентным декодером