中文

平衡微调与检索增强生成:面向动态 LLM 推荐更新的混合策略

信息检索 2025-10-24 v1

摘要

大型语言模型(LLM)通过其先进的推理和规划能力赋能推荐系统,但动态用户兴趣和内容的特性构成了重大挑战:尽管初始微调可使 LLM 符合领域知识和用户偏好,但无法捕捉此类实时变化,亟需稳健的更新机制。本文聚焦更新 LLM 驱动推荐器的策略,重点考量持续微调与检索增强生成(RAG)之间的权衡。以 LLM 驱动的用户兴趣探索系统为案例,我们在成本、敏捷性和知识整合等维度上对这些方法进行比较分析。我们提出一种混合更新策略,利用周期性微调的长期知识适应能力,同时拥有低成本 RAG 的敏捷性。我们通过在千万用户规模平台上的实际 A/B 实验表明,这种混合方法在用户满意度方面实现统计显著提升,为维护高质量 LLM 驱动推荐系统提供了实用且成本效益高的框架。

关键词

引用

@article{arxiv.2510.20260,
  title  = {Balancing Fine-tuning and RAG: A Hybrid Strategy for Dynamic LLM Recommendation Updates},
  author = {Changping Meng and Hongyi Ling and Jianling Wang and Yifan Liu and Shuzhou Zhang and Dapeng Hong and Mingyan Gao and Onkar Dalal and Ed Chi and Lichan Hong and Haokai Lu and Ningren Han},
  journal= {arXiv preprint arXiv:2510.20260},
  year   = {2025}
}

备注

RecSys 2025 Industry Track