CRINN:对比强化学习的近邻搜索方法
机器学习
2025-08-21 v2 人工智能
计算与语言
数据库
摘要
近邻搜索(Approximate Nearest Neighbor Search, ANNS)算法在最近的 AI 应用中日益关键,尤其是检索增强生成(Retrieval-Augmented Generation, RAG)和基于智能体的大语言模型应用中。在本文中,我们提出了 CRINN,一种新的 ANNS 算法范式。CRINN 将 ANNS 优化视为一个强化学习问题,其中执行速度作为奖励信号。这种方法使我们能够自动生成 progressively 更快的 ANNS 实现,同时维持准确性约束。我们的实验评估显示,CRINN 在六个广泛使用的 NNS 基准数据集上均表现出色。与最先进的开源 ANNS 算法相比,CRINN 在三个数据集(GIST-960-Euclidean、MNIST-784-Euclidean 和 GloVe-25-angular)上取得最佳性能,在两个数据集(SIFT-128-Euclidean 和 GloVe-25-angular)上与之并驾齐驱。CRINN 的成功意义远超 ANNS 优化:它验证了增强型强化学习的 LLM 可作为自动化高级算法优化工具,后者需要专业知识和耗时的手动细化。
引用
@article{arxiv.2508.02091,
title = {CRINN: Contrastive Reinforcement Learning for Approximate Nearest Neighbor Search},
author = {Xiaoya Li and Xiaofei Sun and Albert Wang and Chris Shum and Jiwei Li},
journal= {arXiv preprint arXiv:2508.02091},
year = {2025}
}
备注
Preprint Version