中文

互信息惊讶:重新思考自主系统中的意外性

机器学习 2026-04-15 v3 应用统计

摘要

一群研究者似乎认为机器可以感到惊讶,并引入了各种惊讶措施,主要包括香港惊讶和贝叶斯惊讶。关于惊讶的本质以及如何回应惊讶的问题仍引发争论。在本工作中,我们提出了互信息惊讶(MIS),一个新的框架,将惊讶重新定义为知识增长的信号。此外,我们发展了一序列统计检验,可触发惊讶反应,并提出一种基于MIS的反应策略,通过采样调整和过程分支动态治理系统行为。实证评估——在合成领域和动态污染图估计任务中——表明,受MIS基于反应策略治理的系统在稳定性、响应性和预测准确性方面显著优于基于经典惊讶的方法。我们新提议的重要意义在于,MIS量化了新观察对互信息的影响,使惊讶从反应性转向反思性,使其能够反思学习进展,从而为实现自我感知和自适应的自主系统提供了路径。我们期待这一新的惊讶措施在进一步推动自主系统在复杂动态环境中学习和适应的能力方面发挥关键作用。

关键词

引用

@article{arxiv.2508.17403,
  title  = {Mutual Information Surprise: Rethinking Unexpectedness in Autonomous Systems},
  author = {Yinsong Wang and Quan Zeng and Xiao Liu and Yu Ding},
  journal= {arXiv preprint arXiv:2508.17403},
  year   = {2026}
}

备注

Pre-Submission Version