使大语言模型与医疗健康利益相关者对齐：通往可信人工智能整合之路
计算机与社会
2025-05-07 v1 人工智能
计算与语言
摘要
大语言模型（LLM）的广泛探索提高了人们对医疗健康利益相关者偏好与模型输出之间对齐的认识。这种对齐成为有效、安全且负责任地赋能医疗健康工作流程的关键基础。然而，LLM各异的行为可能并不总是符合医疗健康利益相关者的知识、需求和价值观。为了实现人机对齐，医疗健康利益相关者需要在指导和提升LLM性能方面发挥关键作用。人类专业人员必须参与在医疗健康领域采用LLM的整个生命周期，包括训练数据管理、模型训练和推理。在这篇综述中，我们讨论了医疗健康利益相关者与LLM之间对齐的方法、工具和应用。我们证明，通过适当增强医疗健康知识整合、任务理解和人类指导，LLM可以更好地遵循人类价值观。我们为增强人类与LLM之间的对齐以构建可信的现实世界医疗健康应用提供了展望。
引用
@article{arxiv.2505.02848,
title = {Aligning Large Language Models with Healthcare Stakeholders: A Pathway to Trustworthy AI Integration},
author = {Kexin Ding and Mu Zhou and Akshay Chaudhari and Shaoting Zhang and Dimitris N. Metaxas},
journal= {arXiv preprint arXiv:2505.02848},
year = {2025}
}