Nvidia: экономика ИИ-фабрик зависит от токенов и эффективности на ватт

Вице-президент Nvidia Иан Бак заявил, что экономика ИИ-дата-центров определяется не доступом к GPU, а выпуском токенов на ватт. По его словам, каждое поколение GPU повышает эффективность примерно в 10 раз, а Blackwell дал 30-кратный рост токенов на ватт.

• Nvidia: каждое поколение GPU даёт до 10x роста токенов на ватт
• Blackwell обеспечил 30-кратное улучшение токенов на ватт
• Инференс не заменяет обучение: модели постоянно дообучают
• Ускоритель Groq 3 LPX работает с платформой Vera Rubin