ИИ-рой INT21 за час написал Rust-рантайм для Drama 3, обойдя SGLang-Omni

Стартап INT21 с помощью роя ИИ-агентов SwarmOS за примерно час собрал кастомный инференс-движок на Rust для модели синтеза речи Drama 3 от Fish Audio, без раннего доступа к ней. На двух GPU Nvidia B200 время до первого аудио составило 15,11–23,58 мс против 37,79–38,61 мс у SGLang-Omni, пропускная способность выше в 1,59–1,63 раза.

• Рантайм на Rust собран примерно за 60 минут без раннего доступа к Drama 3
• Время до первого аудио: 15,11–23,58 мс против 37,79–38,61 мс у SGLang-Omni
• Пропускная способность выше в 1,59–1,63 раза на 2× Nvidia B200
• Агенты уже построили более 20 движков для 7 типов моделей