Microsoft открыла исходный код TauGrid для управления ИИ-нагрузками в Kubernetes
Microsoft выложила в открытый доступ TauGrid — облачную платформу для управления, планирования и мониторинга ИИ-нагрузок на Kubernetes-кластерах с GPU. Платформа объединяет очереди Kueue, оркестрацию KubeRay, мониторинг здоровья GPU-узлов и наблюдаемость в единую установку через Helm.
- TauGrid объединяет Kueue, KubeRay и мониторинг GPU в один Helm-пакет
- Работает на Kubernetes 1.30+ с GPU-узлами, требует kubectl и Helm 3.0+
- Задания описываются в tau.yaml и запускаются командой tau run
- Код написан на Go, в планах мультитенантность, RBAC и поддержка LoRA/QLoRA
Читать дальше
Софт