基于大语言模型的可解释生物医学声明验证
人机交互
2025-03-03 v1
摘要
生物医学声明的验证对于医疗决策、公共卫生政策和科学研究至关重要。我们通过整合LLM、透明的模型解释和用户引导的论证，提出了一个交互式生物医学声明验证系统。在该系统中，用户首先从持久化医学文献语料库中检索相关科学研究，并探索不同LLM如何在任务自适应推理框架内执行自然语言推理（NLI），以将每项研究针对该声明分类为“支持”、“矛盾”或“信息不足”。用户可以通过SHAP值检查模型的推理过程，SHAP值突出了对最终结果的词级贡献。这种组合实现了对模型决策过程更透明和可解释的评估。总结阶段允许用户通过选择由LLM生成的带有叙述性论证的结果来汇总结果。最终，为每项检索到的研究总结出一个基于共识的最终决策，旨在实现生物医学背景下安全且负责任的AI辅助决策。我们旨在将这一可解释的验证系统作为更广泛的证据综合框架的一个组件进行整合，以支持人机协作。
引用
@article{arxiv.2502.21014,
title = {Explainable Biomedical Claim Verification with Large Language Models},
author = {Siting Liang and Daniel Sonntag},
journal= {arXiv preprint arXiv:2502.21014},
year = {2025}
}