个人化陷阱：用户记忆如何改变LLM中的情感推理
人工智能
2025-10-14 v1 计算与语言
摘要
当AI助手记得Sarah是一位兼职育儿且工作两个职位的单亲时，它会如何解读她的压力，这与她是一位富裕企业高管的情形有何不同？随着个人化AI系统日益采用长期用户记忆，理解这种记忆如何塑造情感推理至关重要。我们通过在人类验证的情感智力测试中评估15个模型，来研究用户记忆如何影响大型语言模型（LLM）中的情感智力。我们发现，identical情景配合不同的用户档案会产生系统性的情感解释差异。在验证的用户独立情感情景和多样化用户档案之间，多个高性能LLM中出现了系统性偏见，其中 advantaged档案获得到更准确的情感解释。此外，LLM在情感理解和支持性建议任务中表现出在人口统计因素上的显著差异，表明个人化机制可能将社会等级嵌入模型的情感推理中。这些结果凸显了记忆增强AI的一个关键挑战：旨在实现个人化的系统可能无意中强化社会不平等。
引用
@article{arxiv.2510.09905,
title = {The Personalization Trap: How User Memory Alters Emotional Reasoning in LLMs},
author = {Xi Fang and Weijie Xu and Yuchong Zhang and Stephanie Eckman and Scott Nickleach and Chandan K. Reddy},
journal= {arXiv preprint arXiv:2510.09905},
year = {2025}
}
备注
12 pages 5 figures