从归因到放弃：基于注意力的无训练临床摘要审计
计算与语言
2026-04-21 v2 人工智能
摘要
为临床摘要任务部署多模态大语言模型 (MLLM) 不仅需要流畅的生成，还需要透明地揭示每句话的来源，并提供标记无证据陈述的机制。我们提出 ClinTrace，一个无训练框架，从解码器注意力权重中提取两个临床实用信号：(i) 将每句输出句子链接到支持文本片段或图像的细粒度来源归因，(ii) 识别不良支持主张的每句话置信度分数，用作候选幻觉检测。两者均通过单次前向传播从同一注意力张量中得出，不需要重新训练、无需额外模型、无需额外推理成本。我们在两个临床摘要任务上进行评估：医生-患者对话摘要 (CliConSummation) 和放射科报告摘要 (MIMIC-CXR)，分别使用通用 MLLM (Qwen3-8B) 和医学微调模型 (HuatuoGPT-Vision-7B)。对于来源归因，ClinTrace 在放射科摘要上实现超过 92% 的文本 F1，在对话摘要上实现 88%。对于幻觉检测，置信度分数在医学微调模型上达到 0.77 AUROC：在零额外成本下与基于嵌入的置信度方法相当，并实现放弃机制，将忠实度从 61.7% 提升至 72.6%（通过撤回最不确定的 20% 输出供临床医生审核）。值得注意的是，医学微调显著提升了基于注意力的幻觉检测可靠性，表明领域适配产生更语义结构化的注意力模式，更易于自我审计。
引用
@article{arxiv.2601.16397,
title = {From Attribution to Abstention: Training-Free Attention-Based Auditing for Clinical Summarization},
author = {Qianqi Yan and Huy Nguyen and Sumana Srivatsa and Hari Bandi and Xin Eric Wang and Krishnaram Kenthapadi},
journal= {arXiv preprint arXiv:2601.16397},
year = {2026}
}