Cerebras: дезагрегация ускорила инференс в 5 раз

Cerebras Systems сообщила 1 октября 2026 года, что за счёт дезагрегации — разделения фаз prefill и decode на разные пулы оборудования — увеличила пропускную способность инференса в 5 раз на том же парке систем WSE без потери скорости генерации токенов. Компания развивает гетерогенную дезагрегацию с партнёрскими ускорителями, включая AWS Trainium и AMD Instinct.

• Рост пропускной способности в 5 раз на том же количестве систем Cerebras
• Prefill и decode вынесены в отдельные аппаратные пулы
• В prefill-пул можно подключать AWS Trainium и AMD Instinct
• По данным Artificial Analysis, Cerebras выдаёт 1669 токенов/с на GPT-oss-120B