IIMedGPT：通过高效人类偏好对齐提升大语言模型在医疗任务中的能力
计算与语言
2025-01-07 v1 人工智能
摘要
最近关于大语言模型的研究，这些模型在大量通用语料上预训练，在响应用户查询方面取得了突破。然而，这些方法面临挑战，包括有限的数据不足以支持广泛的预训练，并且无法使响应与用户指令对齐。为了解决这些问题，我们引入了一个医疗指令数据集CMedINS，包含来自实际医疗任务的六种医疗指令，该数据集与其他数据一起有效地微调了大语言模型。随后，我们推出了我们的医疗模型IIMedGPT，采用了一种高效的偏好对齐方法——直接偏好优化。结果表明，我们的最终模型在医疗对话中优于现有的医疗模型。数据集、代码和模型检查点将在接收后发布。
引用
@article{arxiv.2501.02869,
title = {IIMedGPT: Promoting Large Language Model Capabilities of Medical Tasks by Efficient Human Preference Alignment},
author = {Yiming Zhang and Zheng Chang and Wentao Cai and MengXing Ren and Kang Yuan and Yining Sun and Zenghui Ding},
journal= {arXiv preprint arXiv:2501.02869},
year = {2025}
}