PwC: компании переплачивают за фронтирные ИИ-модели на простых задачах

Эксперт PwC Аллан Дабре сравнил использование фронтирных моделей для рутинных задач с «покупкой гоночной машины для доставки продуктов». По его словам, малые модели дешевле и быстрее справляются с сортировкой документов, суммаризацией и маршрутизацией запросов, если обучены на данных компании.

• PwC: большинство предприятий платят по ценам фронтирных моделей за задачи, которые решает малая модель
• Switchboard использует среднюю модель примерно для 90% ИИ-задач
• Эксперты советуют считать полную стоимость задачи, а не только цену инференса
• Сложные многошаговые задачи по-прежнему лучше даются крупным моделям