以人为本的大语言模型中文医学伦理对齐流程
计算与语言
2026-01-14 v1
摘要
大语言模型的最新进展使其能够应用于一系列医疗任务。然而，使大语言模型与医学伦理的细微要求对齐，尤其是在复杂的现实场景下，仍是一个未被充分探索的领域。在这项工作中，我们提出了MedES，一个动态的、以场景为中心的基准测试，它专门基于260个权威的中文医学、伦理和法律来源构建，以反映临床决策中的挑战。为了促进模型对齐，我们引入了一个守护者参与框架，该框架利用一个专用的自动评估器（在专家标注数据上训练，并在我们的领域内达到超过97%的准确率）来生成有针对性的提示并提供结构化的伦理反馈。使用此流程，我们通过监督微调和特定领域的偏好优化来对齐一个7B参数的大语言模型。完全在中文医学伦理背景下进行的实验结果表明，我们的对齐模型在核心伦理任务上显著优于更大的基线模型，在质量和综合评估指标上均观察到改进。我们的工作为在中文医疗领域将大语言模型与医学伦理对齐提供了一个实用且可适应的框架，并表明通过模块化替换底层规范语料库，类似的齐流程可以在其他法律和文化环境中实例化。
引用
@article{arxiv.2601.07954,
title = {A Human-Centric Pipeline for Aligning Large Language Models with Chinese Medical Ethics},
author = {Haoan Jin and Han Ying and Jiacheng Ji and Hanhui Xu and Mengyue Wu},
journal= {arXiv preprint arXiv:2601.07954},
year = {2026}
}