认知语境学习：在基于大语言模型的多智能体系统中正确建立信任
人工智能
2026-01-30 v1 计算与语言
多智能体系统
摘要
多智能体系统中的 individual 智能体往往缺乏鲁棒性，倾向于盲目从误导性同伴那里服从。我们指出，这种弱点源于盲从和评估同伴可靠性能力不足。为此，我们首先形式化了历史感知参考学习的问题，引入同伴历史互动作为额外输入，使智能体能够估计同伴可靠性并在不确定时从可信赖的同伴那里学习。这将任务从评估同伴推理质量转向基于互动历史估计同伴可靠性。我们随后发展了认知语境学习（Epistemic Context Learning, ECL）：一种基于显式构建的同伴档案来条件化预测的推理框架。我们进一步通过强化学习使用辅助奖励来优化 ECL。我们的实验表明，ECL 使小型模型如 Qwen 3-4B 能准确识别可靠同伴， outperform 规模为 8 倍的 history-agnostic 基线模型（Qwen 3-30B）。ECL 还将前沿模型提升至近乎完美（100%）的性能。我们展示了 ECL 在 various MA 配置下具有良好的泛化性，并发现信任建模在 LLM 中表现良好，信任建模准确性与最终答案质量之间存在强相关性。
引用
@article{arxiv.2601.21742,
title = {Epistemic Context Learning: Building Trust the Right Way in LLM-Based Multi-Agent Systems},
author = {Ruiwen Zhou and Maojia Song and Xiaobao Wu and Sitao Cheng and Xunjian Yin and Yuxi Xie and Zhuoqun Hao and Wenyue Hua and Liangming Pan and Soujanya Poria and Min-Yen Kan},
journal= {arXiv preprint arXiv:2601.21742},
year = {2026}
}
备注
Codes and data are available at https://github.com/skyriver-2000/epistemic-context-learning