Обзор NVIDIA RTX PRO 4500 Edge: в 2,7 раза быстрее L4 в сервере HPE

NVIDIA RTX PRO 4500 Blackwell Server Edition — однослотовая пассивная карта на 165 Вт с 32 ГБ GDDR7 и 800 ГБ/с, созданная на замену L4. В сервере HPE ProLiant DL145 Gen11 она выдаёт в 2,7 раза больше выходных токенов, чем L4, при росте энергопотребления системы с 196 до 301 Вт.

• Медианный прирост 2,7x к L4 при 8–32 запросах и 3,0–3,2x при 256
• Задержка генерации 12–15 мс/токен против 35–40 мс у L4
• Потребление сервера растёт с 196 до 301 Вт, эффективность на ватт — 1,3–1,4x
• 32 ГБ и FP4 позволяют запускать модели, недоступные L4