Liquid AI выпустила RIPL — движок вывода LFM с задержкой менее 50 мс

Liquid AI представила RIPL (Real-time Inference Pipeline) — движок для запуска моделей LFM2.5 от 230M до 2,6B параметров в реальном времени. По собственным тестам на одном B200 p95-задержка в 5,6–28,4 раза ниже, чем у Qwen3.5 на vLLM; Shopify уже использует LFM с выводом менее 20 мс в поиске.

• RIPL обслуживает LFM2.5 на 230M–2,6B параметров на GPU Nvidia H100, H200, B200 и RTX PRO 6000
• Лучший результат: LFM2.5-1.2B — 155,8 мс p95 против 4431 мс у Qwen3.5-0.8B (в 28,4 раза)
• Худший результат: LFM2.5-2.6B — 449,1 мс против 2499 мс, разрыв лишь в 5,6 раза
• Shopify использует LFM в поиске с выводом менее 20 мс на продакшн-трафике