ИИ-агенты тратят в 5 раз больше токенов, чем люди, и это вырастет до 10 раз

По данным OpenRouter и a16z, в августе ИИ-агенты израсходовали 7,3 трлн токенов против 1,4 трлн у людей — впервые превысив человеческое потребление ещё в феврале. Более 85% токенов агентов приходится на кэшированные промпты, что давит на спрос HBM и память.

• Агенты: 7,3 трлн токенов против 1,4 трлн у людей в августе
• С февраля агентское потребление выросло в 14 раз, человеческое — в 2,8 раза
• Свыше 85% токенов агентов — повторное чтение кэшированных промптов
• 40% крупных организаций масштабируют ИИ-агентов против 27% годом ранее