IBM сделала Spyre полноценным бэкендом PyTorch

IBM сообщила, что обновления PyTorch во втором полугодии 2026 года сделали её dataflow-ускоритель Spyre полноценным бэкендом PyTorch. Бэкенд torch-spyre перевели с собственного стека sendnn (~273 тыс. строк) на расширение Inductor (~38,6 тыс. строк), что дало ускорение prefill в 1,7 раза и decode в 2,4 раза на Granite 3.3 8B.

• Spyre — 75-ваттный PCIe-ускоритель на 32 ядра с 2 МБ скретчпада и до 128 ГБ LPDDR5
• Бэкенд torch-spyre сократил код примерно в 7 раз: с 273 тыс. до 38,6 тыс. строк
• На Granite 3.3 8B prefill ускорился в 1,7 раза, decode — в 2,4 раза
• Время softmax-ядра снизилось с 32,51 до 23,67 мкс благодаря планированию скретчпада