迭代信息采集中交叉熵相对于熵的优势
机器学习
2015-09-17 v2 机器学习
摘要
通过选取最少量的数据来收集最多的信息，是实验设计或强化学习与机器人学中探索未知环境时的常见任务。一个广泛用于量化某个兴趣分布所含信息量的度量是其熵。因此，贪婪地最小化期望熵是选择样本以获得对底层随机变量强信念的标准方法。我们表明，这种方法容易暂时陷入对应于错误偏置信念的局部最优。我们建议改为最大化新旧信念之间的期望交叉熵，其目标是挑战可反驳的信念，从而避免这些局部最优。我们证明这两个准则是紧密相关的，它们的差异可以追溯到 Kullback-Leibler 散度的非对称性。通过说明性示例以及仿真和真实世界实验，我们展示了交叉熵相对于简单熵在实际应用中的优势。
引用
@article{arxiv.1409.7552,
title = {The Advantage of Cross Entropy over Entropy in Iterative Information Gathering},
author = {Johannes Kulick and Robert Lieck and Marc Toussaint},
journal= {arXiv preprint arXiv:1409.7552},
year = {2015}
}
备注
24 pages