语言模型预测社会群体间的同理心差距
计算与语言
2025-03-04 v1 人工智能
摘要
人类心理学研究表明，人们更倾向于延伸同情心以供给ingroup 成员而非 outgroup 成员 (Cikara 等，2011)。本研究探讨了这种人类群体关系中的特性是否被 LLM 复制。在该任务中，LLM 被给定一段导致某人产生特定情绪的经历描述，然后被要求预测该情绪的强度程度。通过操纵 LLM 的 persona（“感知者”）和叙述中某人（“体验者”）的群体身份，我们衡量在不同群体情境下预测情绪强度的差异。我们观察到 LLM 对ingroup 成员分配更高的情绪强度分数。该模式在我们测试的三种社会群体类型中均成立：种族/民族、国籍和宗教。我们对表现最强烈的 Llama-3.1-8B 进行了深入分析。
引用
@article{arxiv.2503.01030,
title = {Language Models Predict Empathy Gaps Between Social In-groups and Out-groups},
author = {Yu Hou and Hal Daumé and Rachel Rudinger},
journal= {arXiv preprint arXiv:2503.01030},
year = {2025}
}
备注
NAACL 2025