信息几何中的拉普拉斯连续法则
信息论
2015-03-17 v1 math.IT
统计理论
统计理论
摘要
拉普拉斯的“加一”连续法则通过在观测计数上加一来修改头部与尾部序列中的观测频率。这通过避免零概率改进了预测，并对应于参数上的均匀贝叶斯先验。典型的杰弗里斯先验对应于“加半”法则。我们证明，对于指数分布族，此类贝叶斯预测器可通过取极大似然预测器与信息论中的序贯归一化极大似然预测器的平均值来近似。因此，在这种情况下，无需在参数空间中进行积分或采样的代价即可近似贝叶斯预测器。
引用
@article{arxiv.1503.04304,
title = {Laplace's rule of succession in information geometry},
author = {Yann Ollivier},
journal= {arXiv preprint arXiv:1503.04304},
year = {2015}
}