大规模翻译服务:Uber 如何把 P99 压到 1ms 以下的内存优化实践【译】
Uber 翻译服务每秒要服务数百万次翻译,全走内存。GC 一度吃掉 20% 以上的 CPU。本文翻译 Uber 官方博客,看他们如何用 6 字节哈希 key、256 分片和内存/磁盘混合存储,把内存从 2.7GB 降到 750MB,同时把 P99 压在 1ms 以内。
参与讨论
Uber 翻译服务每秒要服务数百万次翻译,全走内存。GC 一度吃掉 20% 以上的 CPU。本文翻译 Uber 官方博客,看他们如何用 6 字节哈希 key、256 分片和内存/磁盘混合存储,把内存从 2.7GB 降到 750MB,同时把 P99 压在 1ms 以内。