量化与缓解前见闭合：面向前沿大语言模型
计算与语言
2026-05-15 v1 人工智能
摘要
前见闭合（premature closure）即在充分信息前就提交结论，是诊断性错误的已知贡献者，但在大型语言模型（LLM）中仍未得到充分探讨。我们定义 LLM 前见闭合为在不确定性下做出不恰当的承诺：提供答案、建议或临床指导，而安全的响应应为澄清、拒绝、升级或拒绝。我们评估了五种前沿大语言模型在结构化和开放式医学任务中的表现。在 MedQA（n=500）和 AfriMed-QA（n=490）问题中，如果正确选项被移除，模型仍以高比例选择答案，基准错误行动率分别为 55-81% 和 53-82%。在开放式评估中，模型在 861 个 HealthBench 问题中不恰当地给出答案的平均比例为 30%，而在 191 个医生撰写的对抗查询中则为 78%。安全导向的提示显著降低了各模型的前见闭合，但残留错误仍然存在，这凸显了评估医学大语言模型是否知道何时不回答的必要性。
引用
@article{arxiv.2605.15000,
title = {Quantifying and Mitigating Premature Closure in Frontier LLMs},
author = {Rebecca Handler and Suhana Bedi and Nigam Shah},
journal= {arXiv preprint arXiv:2605.15000},
year = {2026}
}
备注
14 pages, 3 figures, 1 table