通过多模态主张检测与证据导向验证对抗生物医学误information
计算与语言
2025-09-18 v1 人工智能
信息检索
摘要
医疗领域的误information，从疫苗犹豫到未经证实的治疗方案，都对公共卫生和医疗系统的信任构成威胁。虽然机器学习和自然语言处理技术已推动了自动化事实核查的发展，但对生物医学主张的验证仍面临独特挑战，主要源于术语的复杂性、对领域专业知识的需求，以及对科学证据 grounding 的关键重要性。我们提出了 CER（Combining Evidence and Reasoning）框架，这是一个用于生物医学事实核查的新型方法，集成了科学证据检索、基于大型语言模型的推理，以及监督式可信度预测。通过将大型语言模型的文本生成能力与针对高质量生物医学科学证据的先进检索技术相结合，CER 有效缓解了幻觉风险，确保生成的输出基于可验证、证据导向的来源。我们在专家标注数据集（HealthFC、BioASQ-7b、SciFact）上的评估结果表明，该方法实现了最新的性能水平，并展现了良好的跨数据集泛化能力。我们公开了代码和数据，以提高透明度和可重复性：https://github.com/PRAISELab-PicusLab/CER
引用
@article{arxiv.2509.13888,
title = {Combating Biomedical Misinformation through Multi-modal Claim Detection and Evidence-based Verification},
author = {Mariano Barone and Antonio Romano and Giuseppe Riccio and Marco Postiglione and Vincenzo Moscato},
journal= {arXiv preprint arXiv:2509.13888},
year = {2025}
}