DRIM-ANN：基于商业化 DRAM-PIM 的近似最近邻搜索引擎
性能
2025-08-27 v2
摘要
近似最近邻搜索（ANNS）是推荐系统和检索增强生成（RAG）等应用的关键技术，但该方法高度依赖 I/O 且对内存需求大。CPU 面临 I/O 瓶颈，而 GPU 受限于内存容量。基于 DRAM 的处理器内内存（DRAM-PIM）通过提供高带宽、大内存容量和近数据计算，提供了可行的替代方案。本文引入 DRIM-ANN，首个针对 UPMEM 商用 DRAM-PIM 进行优化的 ANNS 引擎。虽然 UPMEM 可扩展内存带宽和容量，但因每个 DRAM 银行内嵌处理器计算能力有限，故本文系统优化 ANNS 近似配置方案，替换昂贵的平方运算为查表法，以契合 UPMEM 架构的计算需求。此外，本文提出负载均衡和 I/O 优化策略，以最大化并行处理效率。实验结果表明，DRIM-ANN 在计算增强 PIM 平台上，相较于 32 线程 CPU 加速 2.46 倍，相较于 GPU 加速最高可达 2.67 倍。
引用
@article{arxiv.2410.15621,
title = {DRIM-ANN: An Approximate Nearest Neighbor Search Engine based on Commercial DRAM-PIMs},
author = {Mingkai Chen and Tianhua Han and Cheng Liu and Shengwen Liang and Kuai Yu and Lei Dai and Ziming Yuan and Ying Wang and Lei Zhang and Huawei Li and Xiaowei Li},
journal= {arXiv preprint arXiv:2410.15621},
year = {2025}
}