GPU в Kubernetes: учёт ресурсов приходится строить самостоятельно

The New Stack разобрал, почему учёт GPU в Kubernetes сложнее, чем CPU и памяти: DCGM отчитывается на уровне физического устройства, при time-slicing и MPS все поды видят одинаковые значения, а биллинг приходится строить на памяти, а не на вычислениях.

• DCGM по умолчанию даёт метрики на уровне устройства, а не пода
• При time-slicing три пода на одной GPU выглядят как 300% загрузки
• GPU запрашивается целыми числами, оверкоммит в планировщике недоступен
• Точный учёт вычислений между командами сегодня невозможен