NVIDIA ускорила инференс на DGX и RTX на 40% и дала DGX Spark кластеры до 8 узлов

NVIDIA на GTC Berlin объявила, что DGX Spark теперь поддерживает кластеры до 8 узлов: 512 ГБ памяти у 64-ГБ версий и 1 ТБ у 128-ГБ. Инференс на DGX и RTX ускорен на 30–40% благодаря оптимизациям vLLM и llama.cpp, а 64-ГБ DGX Spark выходит 23 октября.

• Кластер из 8 DGX Spark даёт до 1 ТБ объединённой памяти
• Ускорение инференса: 30% на DGX Spark, 40% на RTX PRO 6000
• Модель Recursive Flint выдаёт свыше 220 токенов/с на RTX Spark 64 ГБ
• DGX Spark на 64 ГБ поступит в продажу 23 октября