医学评论家的迭代树形分析
计算与语言
2025-01-22 v1
摘要
大型语言模型(LLM)已在各个领域广泛采用,但在医学领域的应用面临独特挑战,尤其是关于生成幻觉的问题。开放式长医学文本中的幻觉表现为误导性的关键论断,由于两个原因难以验证:首先,关键论断常常深深嵌入文本之中,无法仅凭表面的呈现方式进行提取;其次,验证这些论断具有挑战性,因为基于标记的表面级检索往往缺乏精确或具体的证据,导致这些论断在没有深层机制分析的情况下难以被验证。在本文中,我们引入一种新颖的方法,称为迭代树形分析(ITA),用于医学评论家。ITA设计用于从长医学文本中提取隐含论断,并通过迭代和自适应的树形推理过程对每个论断进行验证。这一过程涉及顶部任务分解和底部证据Consolidation的结合,通过详细的机制级推理实现对复杂医学论断的精确验证。我们的广泛实验表明,ITA在检测复杂医学文本验证任务中的事实性不准确方面显著优于先前方法,提升了10%。此外,我们将向公众发布一个全面的测试集,旨在促进该领域研究的进一步发展。
引用
@article{arxiv.2501.10642,
title = {Iterative Tree Analysis for Medical Critics},
author = {Zenan Huang and Mingwei Li and Zheng Zhou and Youxin Jiang},
journal= {arXiv preprint arXiv:2501.10642},
year = {2025}
}