Respan выпустила открытый ИИ-шлюз на Rust после сбоя LiteLLM

Respan выпустила открытый ИИ-шлюз на Rust, заменив более 100 тыс. строк обёрток вокруг LiteLLM компактным ядром с плагинами для провайдеров моделей, маршрутизации, MCP-инструментов, голоса и безопасности. Поводом стал сбой после обновления LiteLLM в январе 2026 года, причину которого так и не нашли. Шлюз в статусе pre-alpha, кастомные плагины требуют компиляции.

• Два года Respan строила обёртки вокруг LiteLLM — свыше 100 тыс. строк кода
• Сбой после обновления LiteLLM в январе 2026 года так и не был объяснён
• Провайдер Mistral в новом шлюзе занимает 22 строки кода
• Шлюз в статусе pre-alpha, кастомные плагины компилируются в бинарник