从被动指标到主动信号：大语言模型不确定性量化演进之旅
人工智能
2026-04-21 v2 应用统计
摘要
尽管大语言模型 (LLM) 显示出惊人的能力，但其不可靠性仍是部署在高风险领域的关键障碍。本文调查概述了应对这一挑战的功能演进：不确定性从被动诊断指标向主动控制信号演进，以引导实时模型行为。我们展示了不确定性如何作为主动控制信号在三个前沿领域被利用：在**高级推理**中优化计算并触发自我纠正；在**自主智能体**中治理关于工具使用和信息寻求的元认知决策；在**强化学习**中缓解奖励入侵，实现通过内在奖励的自我改进。通过将这些进展建立在贝叶斯方法和共形预测等新兴理论框架基础上，我们提供了对这一变革性趋势的统一视角。本文调查提供了全面概述、批判性分析和实用设计模式，论证掌握这一新趋势对于构建下一代可扩展、可靠且值得信赖的 AI 至关重要。
引用
@article{arxiv.2601.15690,
title = {From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models},
author = {Jiaxin Zhang and Wendi Cui and Zhuohang Li and Lifu Huang and Bradley Malin and Caiming Xiong and Chien-Sheng Wu},
journal= {arXiv preprint arXiv:2601.15690},
year = {2026}
}
备注
This paper has been accepted by ACL 2026