Apple построила Minions — распределённую GPU-сеть из Mac для ИИ-инференса

Apple описала систему Minions, которая объединяет простаивающие GPU на macOS-устройствах в виртуальное облако для инференса. До её внедрения часть задач ждала в очереди более 10 часов, теперь запуск занимает минуты.

• Minions агрегирует простаивающие GPU Apple Silicon в общий пул для инференса
• Очереди на инференс сократились с более чем 10 часов до минут
• Система состоит из Minion Server, PostgreSQL, Executor и Watchdog
• Mac mini и Mac Studio поддерживают кластеризацию через RDMA по Thunderbolt 5