大型语言模型中层次情感组织的涌现
计算与语言
2025-07-16 v1 人工智能
机器学习
摘要
随着大型语言模型（LLMs）日益用于对话式智能体，理解它们如何建模用户情感状态已成为伦理部署的关键问题。受情感轮（emotion wheels）——一种认为情感在层次结构中组织的心理学框架——启发，我们分析了情感状态在模型输出中概率依赖关系。我们发现，LLMs 自然形成与人类心理模型一致的层次情感树，规模更大的模型发展出更复杂的层次结构。我们还发现了情感识别在不同社会经济人物群体中的系统性偏差，其中对交叉身份、支持者不足群体的误分类会逐渐累积。人类研究结果表明，与之息息相关，暗示 LLMs 内化了社会感知的某些方面。除了凸显 LLMs 中情感推理的涌现现象外，我们的结果还暗示了利用以认知为基础的理论用于开发更好的模型评估方法的潜力。
引用
@article{arxiv.2507.10599,
title = {Emergence of Hierarchical Emotion Organization in Large Language Models},
author = {Bo Zhao and Maya Okawa and Eric J. Bigelow and Rose Yu and Tomer Ullman and Ekdeep Singh Lubana and Hidenori Tanaka},
journal= {arXiv preprint arXiv:2507.10599},
year = {2025}
}