Amazon открыла TorchNeuron для запуска PyTorch на чипах Trainium

Amazon вывела из закрытой беты инструмент TorchNeuron, который позволяет запускать код на PyTorch на её ИИ-чипах Trainium после минимальной правки конфигурации. Со вторника софт выйдет в открытый исходный код на конференции PyTorch в Сан-Хосе; в закрытой бете участвовали более 30 компаний.

• TorchNeuron запускает PyTorch на Trainium без переписывания кода под API Amazon
• В закрытой бете участвовали более 30 компаний и внутренних команд Amazon
• Deepgram получила на 60% больше аудио на доллар на Trainium, чем на GPU
• Amazon тестирует инструмент на 100 000+ моделях Hugging Face каждую ночь