KnowGuard：面向多轮临床推理的知识驱动弃权机制
计算与语言
2025-09-30 v1
摘要
在临床实践中，当患者信息不足时，医生会避免做出决策。这种行为被称为弃权，是防止潜在有害误诊的关键安全机制。近期的研究报道了大型语言模型在医疗场景中的应用。然而，现有的 LLM 难以实现弃权，在信息不完整时经常给出过度自信的回复。这一局限性源于传统的弃权方法仅依赖模型自我评估，缺乏利用外部医学证据识别知识边界的系统性策略。为解决这一问题，我们提出了 KnowGuard，一种新颖的“先调查后弃权”范式，将系统性的知识图谱探索集成到临床决策中。我们的方法包含在共享的上下文化证据池上运行的两个关键阶段：1）证据发现阶段，通过图扩展和直接检索系统地探索医学知识空间；2）证据评估阶段，利用多种因素对证据进行排序，以根据患者上下文和对话历史调整探索策略。这种两阶段方法实现了系统性的知识图谱探索，使模型能够追踪结构化的推理路径并识别不充分的医学证据。我们使用模拟真实诊断场景的开放式多轮临床基准来评估我们的弃权方法，通过超越现有封闭式评估的准确率-效率权衡来评估弃权质量。实验证据清楚地表明，KnowGuard 优于最先进的弃权方法，在将不必要的交互平均减少 7.27 轮的同时，将诊断准确率提高了 3.93%。
引用
@article{arxiv.2509.24816,
title = {KnowGuard: Knowledge-Driven Abstention for Multi-Round Clinical Reasoning},
author = {Xilin Dang and Kexin Chen and Xiaorui Su and Ayush Noori and Iñaki Arango and Lucas Vittor and Xinyi Long and Yuyang Du and Marinka Zitnik and Pheng Ann Heng},
journal= {arXiv preprint arXiv:2509.24816},
year = {2025}
}