Cloudflare освободила 100 ТБ RAM, оптимизировав консистентное хеширование

Cloudflare сократила потребление памяти внутреннего балансировщика нагрузки более чем на 100 ТБ, оптимизировав реализацию консистентного хеширования в Rust-библиотеке pingora-ketama. Число хешей на бэкенд уменьшено примерно на 90% при сохранении точности распределения, а записи хеш-кольца сжаты с 8 до 6 байт.

• Экономия памяти превысила 100 ТБ за счёт сжатия структур хеш-кольца
• Число хешей на сервер сокращено на 90% без потери точности балансировки
• Запись Point уменьшена с 8 до 6 байт за счёт упаковки индекса сервера
• Новое кольцо внедряли постепенно, чтобы избежать всплеска трафика к origin