当个性化产生误导:理解并缓解个性化大语言模型中的幻觉
计算与语言
2026-01-19 v1 人工智能
摘要
个性化大语言模型 (LLM) 将模型行为适配至个体用户以提升用户满意度,然而个性化可能无意间扭曲事实推理。我们表明,当个性化 LLM 面临事实性查询时,存在一种现象:模型生成的答案与用户的历史记录一致而非客观事实,由于个性化与事实表示之间的表示纠缠,导致个性化诱导的幻觉,这降低了事实可靠性并可能传播错误信念。为解决此问题,我们提出保真性个性化引导 (FPPS),这是一种轻量级的推理时方法,可在缓解个性化诱导的事实扭曲的同时保留个性化行为。我们进一步引入 PFQABench,这是首个旨在联合评估个性化下事实性与个性化问答的基准。在多个 LLM 主干和个性化方法上的实验表明,FPPS 在维持个性化性能的同时显著提高了事实准确性。
引用
@article{arxiv.2601.11000,
title = {When Personalization Misleads: Understanding and Mitigating Hallucinations in Personalized LLMs},
author = {Zhongxiang Sun and Yi Zhan and Chenglei Shen and Weijie Yu and Xiao Zhang and Ming He and Jun Xu},
journal= {arXiv preprint arXiv:2601.11000},
year = {2026}
}
备注
20 pages, 15 figures