Keras на PyTorch ускорил генерацию текста в 11,6 раза после 15 патчей

С июля по октябрь 2026 года в Keras приняли 15 PR, ускоривших работу на бэкенде PyTorch. Компилируемая модель Keras[torch] теперь генерирует текст в 11,6 раза быстрее, а torch.compile стал давать 6,56-кратный прирост относительно eager-режима вместо замедления.

• Генерация текста в Keras[torch] с torch.compile ускорилась в 11,6 раза: с 87,8 до 7,54 мс на вызов
• torch.compile теперь в 6,56 раза быстрее eager Keras: 16 975 против 2 139 токенов в секунду
• Число вызовов Python на прямой проход LLM сократилось на 12–23% на всех четырёх бэкендах
• Ключевые патчи: #23327 (attention), #23201 и #23647 (tree-код) убрали graph breaks