从测量到专业知识：面向情境的对话 AI 代理的同理心专家适配器
人机交互
2025-11-06 v1 人工智能
计算与语言
计算机与社会
机器学习
摘要
同理心是促进对话式 AI 用户体验积极结果的关键因素。虽然模型可以显示同理心，但往往是通用性的，而非针对特定任务和情境。本文引入一种新型框架，用于开发和评估情境特定的同理心大型语言模型（LLM）。我们首先分析由 672 轮多轮对话构成的真实世界对话数据集，涵盖 8 种任务，揭示在对话前后关于预期同理心和经验同理心之间的显著差异。为帮助缩小这一差距，我们开发了合成多轮对话生成管道，并根据更贴近用户期望的情境引导响应。我们随后训练针对情境特定同理心的同理心专家适配器，针对不同任务实现不同水平的同理心。我们的实证结果表明，感知同理心与理想同理心之间的差距缩小了 72.66%，得分平均提升 2.43 倍，如我们度量的指标和奖励模型所示。此外，我们训练的同理心专家适配器在保持对话中同理心模式方面表现优于系统提示，而系统提示随对话长度加剧减弱。
引用
@article{arxiv.2511.03143,
title = {From Measurement to Expertise: Empathetic Expert Adapters for Context-Based Empathy in Conversational AI Agents},
author = {Erfan Shayegani and Jina Suh and Andy Wilson and Nagu Rangan and Javier Hernandez},
journal= {arXiv preprint arXiv:2511.03143},
year = {2025}
}