Groq перейдёт с SRAM на 3D-стековую DRAM в чипах LPU нового поколения

Купленная NVIDIA компания Groq планирует использовать 3D-стековую DRAM вместо SRAM в чипах LPU следующего поколения, сообщает отраслевой инсайдер. Текущие LPU несут 500 МБ SRAM с пропускной способностью 150 ТБ/с и 1,20 PFLOPs FP8; переход на DRAM повысит ёмкость в ущерб скорости.

• Текущий LPU: 500 МБ SRAM, 150 ТБ/с, 1,20 PFLOPs FP8
• Стойка из 256 чипов даёт 128 ГБ SRAM и 640 ТБ/с
• 3D-стек DRAM соединят через TSV по аналогии с HBM
• Ставка на ёмкость памяти из-за роста моделей