Perplexity представила Photon: движок поиска на Rust снизил p99 с 800 до 65 мс

Perplexity выпустила Photon — собственный движок поиска и ранжирования на Rust, заменивший форк открытого движка. Он обслуживает весь продакшн-трафик, а режим Fast Search доступен в Search API за $1 за 1000 запросов при p50 160 мс и p95 230 мс.

• p99 задержка поиска и ранжирования упала с ~800 до ~65 мс
• Fast Search: 160 мс на p50 и 230 мс на p95, $1 за 1000 запросов
• Photon использует на 20% меньше серверов и хранит в 2,5 раза больше данных на документ
• Fast Search на 68% дешевле: 64,3% против 64,0% на 3554 задачах