Nvidia: DSX MaxLPS повышает пропускную способность токенов на мегаватт до 40%

Nvidia представила оптимизации энергоэффективности для платформ Vera Rubin: DSX MaxLPS даёт до 40% больше токенов на мегаватт. Lambda на кластере из 19 узлов получила на 24% больше токенов при том же энергобюджете — с 4 до 5 млн токенов в секунду.

• DSX MaxLPS повышает пропускную способность токенов на мегаватт до 40%
• Lambda: 19 узлов в энергобюджете 16 дали рост с 4 до 5 млн токенов/с
• Производительность на ватт выросла на 23%
• Vera CPU: до 1,9x быстрее старт песочниц и 73% выше пропускная способность