MedTrust-RAG：医学问答中的证据验证与信任对齐
计算与语言
2025-10-21 v2 人工智能
信息检索
摘要
医学问答（QA）需要准确地解释复杂的医学知识。大语言模型（LLM）在该领域显示出巨大的潜力，检索增强生成（RAG）系统通过整合外部医学文献来提升性能。然而，基于 RAG 的医学 QA 方法因事后检索噪声和对检索证据的验证不足而产生幻觉，削弱了响应的可靠性。我们提出 MedTrust-Guided Iterative RAG 框架，以增强事实一致性并缓解医学 QA 中的幻觉。该方法引入了三个关键创新：首先，通过要求所有生成内容明确基于检索到的医学文档进行 grounding，并在证据不足时使用结构化的负面知识断言；其次，采用迭代检索-验证过程，其中验证代理评估证据充分性并通过医学知识差距分析来细化查询，直至获得可靠信息；第三，集成 MedTrust-Align 模块（MTAM），将已验证的正面示例与幻觉感知的负面样本相结合，利用直接偏好优化来强化以引用为导向的推理，同时惩罚易产生幻觉的响应模式。
引用
@article{arxiv.2510.14400,
title = {MedTrust-RAG: Evidence Verification and Trust Alignment for Biomedical Question Answering},
author = {Yingpeng Ning and Yuanyuan Sun and Ling Luo and Yanhua Wang and Yuchen Pan and Hongfei Lin},
journal= {arXiv preprint arXiv:2510.14400},
year = {2025}
}
备注
Accepted as a short paper at BlBM2025