Pinterest и Nvidia ускорили визуальный ИИ-поиск на Blackwell

Pinterest построила мультимодальную ИИ-инфраструктуру с Nvidia на GPU Blackwell B200 и фреймворке Dynamo. Предрасчёт визуальных представлений снизил общую задержку в 7,3 раза, а скорость первого ответа — примерно в 85 раз; Pinterest Assistant обрабатывает до 25 раз больше визуального контекста за запрос.

• Инфраструктура работает на парке из ~14 000 GPU Nvidia
• Задержка снижена в 7,3 раза, первый ответ ускорен в ~85 раз
• Pinterest Assistant обрабатывает до 25 раз больше визуального контекста
• Инференс обходится менее 8% стоимости закрытых моделей