中文

推理与个性化融合:释放大推理模型在个性化生成中的潜力

计算与语言 2025-05-26 v1

摘要

个性化是现代智能系统中的关键任务,应用涵盖与大型语言模型(LLMs)交互等多个领域。最近推理能力的进展显著增强了LLMs,使其在数学和编码等任务中实现了前所未有的性能。然而,它们在个性化任务中的潜力仍未得到充分探索。在本文中,我们首次对大推理模型(LRMs)在个性化任务中的表现进行了系统性评估。令人惊讶的是,尽管LRMs生成了更多的token,但它们并不始终优于通用LLMs,尤其是在检索密集型场景中,其优势会减弱。我们的分析识别出三个关键局限:发散性思维、响应格式不匹配以及检索信息的低效利用。为应对这些挑战,我们提出了强化推理个性化(Reinforced Reasoning for Personalization, \model)框架,该框架引入分层推理思维模板来引导LRMs生成结构化输出。此外,我们引入推理过程干预方法以强制遵循设计的推理模式,增强对齐。我们还提出交叉引用机制以确保一致性。大量实验表明,我们的方法显著优于现有技术。

关键词

引用

@article{arxiv.2505.17571,
  title  = {Reasoning Meets Personalization: Unleashing the Potential of Large Reasoning Model for Personalized Generation},
  author = {Sichun Luo and Guanzhi Deng and Jian Xu and Xiaojie Zhang and Hanxu Hou and Linqi Song},
  journal= {arXiv preprint arXiv:2505.17571},
  year   = {2025}
}