Perplexity выпустила руководство по LLM-шлюзам и их рискам

Perplexity опубликовала практическое руководство по LLM-шлюзам: как промежуточный слой маршрутизирует, аутентифицирует, кэширует и логирует вызовы моделей. Отдельно разобраны риски концентрации ключей провайдеров в одном сервисе, включая уязвимости LiteLLM CVE-2026-35029 и CVE-2026-59823, исправленные в версии 1.83.9.

• LiteLLM: 97 млн загрузок в месяц и более 59 тыс. звёзд на GitHub
• CVE-2026-35029 и CVE-2026-59823 закрыты в LiteLLM 1.83.9
• Сбой Cloudflare AI Gateway 12 июня 2025 года: ошибки до 97% запросов
• Платные LLM-шлюзы начинаются примерно от $50 в месяц