Perplexity 详解 Photon 搜索架构:p99 延迟降至约 65 ms
Perplexity 公开了自家搜索系统 Photon 的构建细节,p99 延迟从 800 ms 压到 65 ms,还开放了 Fast Search API。
Perplexity 的 Photon 系统将 p99 响应时间从约 800 ms 降到约 65 ms。官方介绍该系统减少了约 20% 的服务机器用量,单文档存储的数据量为原来的 2.5 倍。Photon 目前已通过 Fast Search API 对外开放使用。
Inside Photon, p99 response time dropped from about 800 ms to about 65 ms. It uses about 20% fewer serving machines and stores 2.5x as much data per document. How we built Photon: perplexity.ai/hub/blog/photon Get started with Fast Search: pplx.ai/fast-search-api 💬 1 🔄 0 ❤️ 3 👀 839 📊 1 ⚡