CiMRAG：面向边缘 LLM 的面向任务、领域自适应且抗噪声的检索增强生成
机器学习
2026-02-04 v3 人工智能
摘要
受大型语言模型(LLM)驱动的个性化虚拟助手在边缘设备上正逐渐受到关注，通过检索相关轮廓数据并生成量身定制的响应来实现个性化，这是检索增强生成(RAG)方法的关键。然而，在边缘设备上部署 RAG 面临效率挑战，因为轮廓数据（如用户-LLM 交互和最近更新）正快速增长。虽然计算-in-存储(CiM)架构通过消除存储单元与处理单元之间的数据移动（即通过原位操作）来缓解这一瓶颈，但其对环境噪声敏感，可能导致检索精度下降。这在动态、多领域的边缘场景中尤为关键（例如旅游、医疗和法律），因为准确性和适应性都至关重要。为解决这些挑战，我们提出了任务导向的抗噪声嵌入学习(TONEL)框架，提高了在噪声边缘环境中 RAG 的抗噪声鲁棒性和领域适应性。TONEL 采用噪声感知投影模型，以学习与 CiM 硬件约束相兼容的任务特定嵌入，实现在噪声条件下的准确检索。在个性化基准测试上进行的大量实验表明，我们的方法在任务特定噪声场景下相对于强基线具有有效性和实用性。
引用
@article{arxiv.2601.20041,
title = {CiMRAG: CiM-Aware Domain-Adaptive and Noise-Resilient Retrieval-Augmented Generation for Edge-Based LLMs},
author = {Shih-Hsuan Chiu and Ming-Syan Chen},
journal= {arXiv preprint arXiv:2601.20041},
year = {2026}
}
备注
Accepted by ICASSP 2026