Multi-Probe Zero Collision Hash（MPZCH）：缓解嵌入冲突与提升大规模推荐系统模型新鲜度
机器学习
2026-05-18 v3
摘要
嵌入表是大规模推荐系统的关键组件，实现了高基数类别特征到稠密向量表示的高效映射。然而，随着唯一ID数量的扩大，传统基于哈希的索引方法受到冲突影响，导致模型性能和个性化质量下降。我们提出Multi-Probe Zero Collision Hash（MPZCH），一种基于线性探测的新型索引机制，有效缓解嵌入冲突。通过合理的表 sizing，MPZCH通常能够完全消除这些冲突，同时保持生产规模的效率。MPZCH利用辅助张量和高性能CUDA内核实现可配置的探测和主动驱逐策略。通过淘汰已废弃ID并重置重新分配的槽位，MPZCH防止基于哈希方法中典型的陈旧嵌入继承，确保新特征从零开始有效学习。尽管存在冲突缓解开销，该系统仍保持与现有方法相当的训练QPS和推理延迟。严格的在线实验表明，MPZCH实现了用户嵌入的零冲突，并显著提升了物品嵌入的新鲜度和质量。该解决方案已发布于开源TorchRec库供更广泛社区使用。
引用
@article{arxiv.2602.17050,
title = {Multi-Probe Zero Collision Hash (MPZCH): Mitigating Embedding Collisions and Enhancing Model Freshness in Large-Scale Recommenders},
author = {Ziliang Zhao and Bi Xue and Emma Lin and Tianqi Lu and Mengjiao Zhou and Kaustubh Vartak and Shakhzod Ali-Zade and Tao Li and Bin Kuang and Rui Jian and Bin Wen and Dennis van der Staay and Yixin Bao and Eddy Li and Chao Deng and Henry Wei and Songbin Liu and Qifan Wang and Kai Ren},
journal= {arXiv preprint arXiv:2602.17050},
year = {2026}
}
备注
9 pages, 6 figures