CoE：协作熵——智能体多LLM系统中的不确定性量化
人工智能
2026-03-31 v1
摘要
多LLM系统中的不确定性估计仍主要局限于单模型视角：现有方法量化各模型内部的不确定性，但未能充分捕捉模型间的语义分歧。为弥补这一空白，我们提出协作熵（CoE），一种用于多LLM协作中语义不确定性的统一信息论度量。CoE定义在共享的语义聚类空间上，由两个分量组成：模型内语义熵与模型间到集成均值的分歧。CoE并非加权集成预测器；它是一种系统级不确定性度量，用于表征协作置信度与分歧。我们分析了CoE的若干核心性质，包括非负性、完美语义共识下的零值确定性，以及各模型坍缩为δ分布时CoE的行为。这些结果阐明了何时降低单模型不确定性是充分的，以及何时仍存在残余的模型间分歧。我们还提出了一种简单的CoE引导、无需训练的启发式后协调方法作为该度量的实际应用。在LLaMA-3.1-8B-Instruct、Qwen-2.5-7B-Instruct和Mistral-7B-Instruct上对TriviaQA和SQuAD进行的实验表明，CoE比标准的基于熵和基于分歧的基线提供了更强的不确定性估计，且随着引入更多异构模型，增益变得更大。总体而言，CoE为多LLM协作提供了一种有用的不确定性感知视角。
引用
@article{arxiv.2603.28360,
title = {CoE: Collaborative Entropy for Uncertainty Quantification in Agentic Multi-LLM Systems},
author = {Kangkang Sun and Jun Wu and Jianhua Li and Minyi Guo and Xiuzhen Che and Jianwei Huang},
journal= {arXiv preprint arXiv:2603.28360},
year = {2026}
}
备注
18 pages, 7 figures, has already published in ICLR workshop "Agentic AI in the Wild: From Hallucinations to Reliable Autonomy"