vLLM: --api-key не защищает /invocations, /tokenize и /pause
В официальном руководстве по безопасности vLLM указано, что ключ --api-key проверяется только для путей /v1, /v2, /inference и /cohere, а /invocations, /tokenize, /pause, /resume и /update_weights остаются открытыми. Рекомендуется привязка к 127.0.0.1 и обратный прокси с белым списком маршрутов; уязвимость GHSA-vfp2-c8pq-v6h6 в версиях 0.9.2–0.23.x допускала утечку KV-кэша через заголовок X-Request-Id.
- api-key покрывает только /v1, /v2, /inference и /cohere
- /invocations, /tokenize, /pause и /update_weights открыты без ключа
- vllm serve слушает все интерфейсы без флага --host
- GHSA-vfp2-c8pq-v6h6 исправлена в vLLM 0.31.0
Читать дальше
ИИ