AMD Ryzen AI Halo с 192 ГБ памяти за $7299 запускает модели на 300 млрд параметров

AMD выпустила компактную рабочую станцию Ryzen AI Halo Developer Platform с процессором Ryzen AI Max+ PRO 495 и 192 ГБ унифицированной памяти LPDDR5X-8533 за $7299,99. Система первой среди компактных решений загружает модели на 300 млрд параметров, но на моделях до 64 ГБ уступает Nvidia DGX Spark за $4699 примерно на 30% по скорости генерации токенов.

• 192 ГБ унифицированной памяти, до 160 ГБ выделяется под видеопамять GPU
• Модель на 300 млрд параметров требует ~150 ГБ под веса в 4-битной квантизации
• Пропускная способность памяти 273 ГБ/с против 256 ГБ/с у версии на 128 ГБ
• На моделях до 64 ГБ Halo медленнее DGX Spark на ~30% при цене выше на $2600