Spotify 用外部索引让 Parquet 数据湖支持毫秒级点查询
Spotify 推出 Random Access Parquet(RAP),通过外部索引将 key 直接映射到 Parquet 文件的行位置,让数据湖里的 Parquet 文件可以直接支撑毫秒级点查询,无需额外复制到 Bigtable 等 KV 存储。核心思路是用预计算索引替代 Parquet 内置的 footer+PageIndex+Bloom filter 链式读取,配合 ZSTD frame reset、列交错、covering index 等优化,单次点查询可降至一次几 KB 的范围读甚至零存储读取。同一份文件同时服务批分析和在线 AI agent 检索,改变了数据湖只能做离线分析的经济学。 










