Тест: SDXL на RTX A6000, L40S, RTX 5090 и H100 — от $0,91 за 1000 картинок

Автор арендовал четыре GPU на Runcrate и замерил стоимость генерации 1000 изображений SDXL 1024×1024 при 30 шагах. Дешевле всего вышли RTX A6000 ($0,91) и RTX 5090 ($0,93), L40S — $1,01, H100 — $1,80 при самой высокой скорости 1,67 с на изображение.

• RTX A6000: $0,91 за 1000 картинок, 4,94 с на изображение с torch.compile
• H100 PCIe: 1,67 с на изображение, но $1,80 за 1000 картинок
• torch.compile ускоряет на 8–20%, окупается после 210–400 изображений
• Батч 4 почти не помогает: прирост от -4% до +4%, кроме H100