大语言模型能否成为好的情感支持者？缓解情感支持对话中的偏好偏差
计算与语言
2025-05-27 v3
摘要
情感支持对话（ESC）是一项旨在通过日常对话缓解个体情绪困扰的任务。鉴于其固有的复杂性和非直观性，ESConv数据集引入了支持策略以促进生成适当的响应。最近，尽管大语言模型（LLM）具有卓越的对话能力，但先前的研究表明它们往往难以提供有用的情感支持。因此，本工作初步分析了LLM在ESConv上的结果，揭示了在选择正确策略方面的困难以及对特定策略的显著偏好。受此启发，我们探讨了LLM中固有偏好对提供情感支持的影响，并观察到对特定策略表现出高偏好会阻碍有效的情感支持，加剧了预测适当策略的鲁棒性问题。此外，我们进行了一项方法论研究，为LLM成为熟练的情感支持者所需的必要方法提供了见解。我们的发现强调：（1）对特定策略的低偏好阻碍了情感支持的进展，（2）外部帮助有助于减少偏好偏差，（3）现有的LLM本身无法成为好的情感支持者。这些见解为未来增强LLM情感智能的研究提供了有希望的途径。
引用
@article{arxiv.2402.13211,
title = {Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation},
author = {Dongjin Kang and Sunghwan Kim and Taeyoon Kwon and Seungjun Moon and Hyunsouk Cho and Youngjae Yu and Dongha Lee and Jinyoung Yeo},
journal= {arXiv preprint arXiv:2402.13211},
year = {2025}
}
备注
Accepted to ACL 2024, Outstanding Paper