Huawei раскрыла дизайн Stellar AI Fabric для KV-кэша

Huawei на конференции ASC 2026 в Шанхае описала архитектуру Stellar AI Fabric с Hyper-Converged Fabric для ускорения обмена KV-кэшем между вычислениями, хранилищем и сетью. По лабораторным тестам на модели GLM-5.2 прямое выгружение кэша дало в 7,3 раза больше TPS, а согласованное планирование IO добавило ещё 20% эффективности.

• Прямое выгружение KV-кэша дало 7,3× TPS против обычного подхода в тестах Huawei
• Согласованное планирование IO в сети и хранилище добавило ещё 20% эффективности
• Сетевой уровень HCF повышает производительность IO хранилища более чем на 30%
• KV-кэш инференс-кластера может достигать петабайтного масштаба