通过设计实现共情：面向医疗对话的大语言模型对齐
计算与语言
2025-12-09 v1 人工智能
摘要
通用型大语言模型（LLM）已展现出卓越的生成与推理能力，但在医疗和护理应用方面仍受限于两个关键缺陷：事实性不可靠性以及缺乏共情沟通。这一不足在用户（尤其是非专业人士和照护者）寻求医疗相关指导或情感安慰的敏感场景中构成重大风险。为应对这些挑战，我们引入一种基于直接偏好优化（DPO）的对齐框架，以提升事实正确性、语义连贯性以及照护者-患者对话中以人类为中心的质量，如共情、礼貌和简洁性。我们的方法通过两两偏好数据对领域适配的大语言模型进行微调，其中受偏好响应体现出支持性和易于访问的沟通风格，而被拒绝的响应则代表权威性或过于技术化的语调。这种直接优化方法比传统基于强化学习的对齐方式更高效地将模型输出对齐于人类偏好。跨多个开放及商业大语言模型的实证评估表明，我们的DPO微调模型在语义对齐度、事实准确性和人类中心评估得分方面均优于基线模型和商业替代方案，如谷歌医疗对话系统。这些改进表明，偏好基方法为开发面向照护者和医疗沟通的可信赖、具共情性和临床导向的人工智能助手提供了可扩展且透明的路径。我们的开源代码已公开：https://github.com/LeonG19/Empathy-by-Design
引用
@article{arxiv.2512.06097,
title = {Empathy by Design: Aligning Large Language Models for Healthcare Dialogue},
author = {Emre Umucu and Guillermina Solis and Leon Garza and Emilia Rivas and Beatrice Lee and Anantaa Kotal and Aritran Piplai},
journal= {arXiv preprint arXiv:2512.06097},
year = {2025}
}