中文

SPRInG:通过选择性参数自适应与检索插值生成实现大语言模型的持续个性化

人工智能 2026-01-16 v1 计算与语言

摘要

大语言模型的个性化通常依赖于静态检索或一次性自适应,假设用户偏好随时间保持不变。然而,现实世界的交互是动态的,用户兴趣持续演变,这对模型在避免灾难性遗忘的同时适应偏好漂移构成了挑战。标准的持续学习方法在此背景下往往表现不佳,因为它们不加区分地在噪声交互流上进行更新,未能区分真正的偏好转变与瞬时上下文。为解决此问题,我们引入了 SPRInG,一个专为有效持续个性化而设计的新型半参数化框架。在训练期间,SPRInG 采用漂移驱动的选择性自适应,利用基于似然的评分函数来识别高新颖性交互。这允许模型选择性地在漂移信号上更新用户特定的适配器,同时将难以学习的残差保留在重放缓冲区中。在推理期间,我们应用严格的关联性门控,并通过 logit 插值融合参数化知识与检索到的历史记录。在长文本个性化生成基准上的实验表明,SPRInG 优于现有基线,验证了其在现实世界持续个性化中的鲁棒性。

关键词

引用

@article{arxiv.2601.09974,
  title  = {SPRInG: Continual LLM Personalization via Selective Parametric Adaptation and Retrieval-Interpolated Generation},
  author = {Seoyeon Kim and Jaehyung Kim},
  journal= {arXiv preprint arXiv:2601.09974},
  year   = {2026}
}

备注

under review, 23 pages