变色龙的极限:探究大语言模型中的角色崩溃与同质化
计算与语言
2026-04-28 v1
摘要
基于大语言模型的应用,如多智能体模拟,需要智能体之间的群体多样性。我们识别出一种普遍存在的失败模式,称之为“角色崩溃”:被分配了不同档案的智能体最终却收敛到狭窄的行为模式,产生同质的模拟群体。为了量化角色崩溃,我们提出了一个框架,用于衡量群体占据角色空间的程度(覆盖率)、智能体在其中的分布均匀程度(均匀性)以及由此产生的行为模式的丰富程度(复杂性)。在十种LLM上对人格模拟、道德推理和自我介绍的评估中,我们观察到角色崩溃沿两个轴发生:(1)维度:一个模型可能在一个轴上表现出多样性,但在另一个轴上却结构性退化;(2)领域:同一个模型可能在人格方面崩溃最严重,但在道德推理方面却最多样化。此外,项目级诊断显示,行为变化追踪的是粗略的人口统计刻板印象,而不是每个角色中指定的细粒度个体差异。与直觉相反,**在单个角色保真度上得分最高的模型,始终产生最刻板化的群体**。我们发布了我们的工具包和数据,以支持LLM的群体级评估。
引用
@article{arxiv.2604.24698,
title = {The Chameleon's Limit: Investigating Persona Collapse and Homogenization in Large Language Models},
author = {Yunze Xiao and Vivienne J. Zhang and Chenghao Yang and Ningshan Ma and Weihao Xuan and Jen-tse Huang},
journal= {arXiv preprint arXiv:2604.24698},
year = {2026}
}