Google и Meta открыли TorchTPU — нативный бэкенд PyTorch для TPU
На конференции PyTorch Conference North America 2026 в Сан-Хосе Google и Meta представили открытый бэкенд TorchTPU, позволяющий запускать PyTorch на TPU сменой одной строки кода. Meta планирует перевести крупные LLM-нагрузки на TPU; опубликованы четыре репозитория, включая vLLM-TorchTPU и SGLang-TorchTPU.
- TorchTPU заменяет PyTorch/XLA и требует лишь model.to("tpu") вместо model.to("cuda")
- Qwen3 235B MoE запущен на 8192 чипах TPU v7x с 28% MFU
- Открыты TorchTPU, vLLM-TorchTPU, SGLang-TorchTPU и TorchTitan
- AWS выпустила аналогичный бэкенд TorchNeuron для Trainium в бете
Читать дальше
ИИ