XPeng и Banma запустили 30B-модель ИИ прямо в чипе Turing на 750 TOPS

XPeng и Banma Intelligence представили автомобильное ИИ-решение для кокпита, где 30B-модель AutoOmni работает локально на чипе Turing с производительностью 750 TOPS. Архитектура «сначала на устройстве, облако в помощь» обеспечивает работу без сети в тоннелях и подземных парковках; дата выхода и модель авто не названы.

• Чип Turing выдаёт 750 TOPS и рассчитан на авто, роботов и летающие машины
• Локально работают диалог, мультимодальное восприятие и офлайн-задачи
• Обычные бортовые модели — 4B–7B параметров, здесь 30B
• Banma также показала MoE-модель AutoOmni 2.0-23B-A3B с 3B активных параметров