大语言模型对人类情感的认知推理表现出脆弱性
计算与语言
2026-03-16 v2 人工智能
摘要
情感计算旨在通过使机器能够与人类情感互动，来支持人工智能的整体发展。最近的基础模型，特别是大语言模型（LLMs），已在情感相关任务上进行训练和评估，通常使用带离散情感标签的监督学习。这些评估主要关注表层现象，如识别表达或诱发的情感，留下了这些系统是否以认知上有意义的方式来推理情感的问题。本文我们询问 LLMs 是否可以通过认知维度来推理情感，而不仅仅是标签。基于认知评估理论，我们引入 CoRE，一个大规模基准，旨在探测 LLMs 在解释情感充满情绪的情境时所隐含的认知结构。我们评估了与人类评估模式的一致性、内部一致性、跨模型泛化以及对情境变化的鲁棒性。我们发现 LLMs 捕捉了认知评估与情感之间系统性关系，但显示出与人类判断的不一致性以及在不同情境下的不稳定性。
引用
@article{arxiv.2508.05880,
title = {Large language models show fragile cognitive reasoning about human emotions},
author = {Sree Bhattacharyya and Evgenii Kuriabov and Lucas Craig and Tharun Dilliraj and Reginald B. Adams, and Jia Li and James Z. Wang},
journal= {arXiv preprint arXiv:2508.05880},
year = {2026}
}
备注
Under Review, a version was presented at WiML Workshop @ NeurIPS 2025