Reka выпустила Rho-1: омни-модель на 19B понимает и генерирует видео и команды роботам

Reka представила исследовательский превью Rho-1 — омни-модель на 19B параметров, обученную с нуля. Одна нейросеть понимает и генерирует текст, изображения и видео, а также выдаёт действия для роботов, заменяя конвейеры из узкоспециализированных моделей. Веса, API и цены пока не раскрыты.

• 19B-модель объединяет текст, изображения, видео и действия роботов в одном контексте
• Два экспертных потока весов делят внимание и KV-кэш в каждом блоке трансформера
• Дистилляция сокращает денойзинг с 99 до 8 шагов: клип 5,3 с примерно за секунду
• Обучение на 320 H100 три месяца, видео ограничено 672×384, веса не открыты