不一致的积极性：当校准不当的积极性破坏在线支持性对话时

在情感支持性对话中，善意的积极性有时会适得其反，导致回复让人感觉被敷衍、被轻视或不切实际地乐观。我们在人类和 LLM 生成的回复中考察了这种不一致积极性现象，即错误校准的积极支持表达。为此，我们从 Reddit 上收集了涵盖不同情感强度的真实用户-助手对话，并使用大型语言模型为相同语境生成了额外的回复。我们根据强度将这些对话分为两个层级：轻度，涵盖关系紧张和一般建议；重度，涵盖悲伤和焦虑对话。这种分类层级使得我们能够比较支持性回复在低风险和高风险语境中如何变化。我们的分析表明，LLM 更容易通过敷衍和轻视的语气表现出不切实际的积极性，尤其是在高风险语境中。为了进一步研究该现象的潜在维度，我们在具有强情绪反应和弱情绪反应的数据集上微调了 LLM。此外，我们开发了一个弱监督多标签分类器集成（DeBERTa 和 MentalBERT），在两类关注点（轻度和重度）上均展现出对不一致积极性类型更好的检测能力。我们的发现表明，有必要超越仅仅生成通用的积极回复，转而研究一致的支持措施，以平衡积极情感与情感认可。该方法为使大型语言模型与在线支持性对话中的情感期望相一致提供了见解，为迈向上下文感知且保持信任的在线对话系统铺平了道路。