JEPA-Anything: единый фреймворк мировых моделей для 7 областей
Исследователи из PhAI Labs, CUHK, Fudan, Stanford, Oxford и Princeton выпустили JEPA-Anything — доменно-независимый фреймворк для построения мировых моделей. Метод Orthogonal Predictive Factorization делит целевое латентное представление на K ортогональных подпространств с отдельными предикторами; на 10 задачах динамики результат превзошёл сопоставимые JEPA-базлайны, а ошибка на Interventional Pong упала на 34,83%.
- OPF делит латент шириной d на K ортогональных факторов шириной r, обычно K=4
- На Interventional Pong ошибка одиночного вмешательства снизилась на 34,83%
- На APEBench Burgers ошибка 6-шагового роллаута упала примерно на 44,7%
- Код ядра под Apache-2.0, чекпоинты опубликованы на Hugging Face
Читать дальше
Регулирование