场论与最大熵方法在学习概率密度中的统一
数据分析、统计与概率
2015-09-16 v5 机器学习
定量方法
机器学习
摘要
从有限采样数据中估计平滑概率分布(即概率密度)的需求在科学中无处不在。许多解决此问题的方法已被描述,但尚无一种被视为提供了确切的解决方案。最大熵估计和贝叶斯场论是两种此类方法。两者均源于统计物理学,但它们之间的关系尚不清楚。在此,我通过证明每个最大熵密度估计都可以在适当贝叶斯场论的无限平滑极限中被恢复,从而统一了这两种方法。我还表明,执行贝叶斯场论估计无需对候选密度施加任何边界条件,且这些理论的无限平滑极限恢复了最常见的最大熵估计类型。因此,贝叶斯场论被视为对最大熵零假设有效性的自然检验。当最大熵假设被证伪时,贝叶斯场论还会返回一个更低熵的密度估计。此方法所需的计算对于一维数据可以快速执行,并提供了相应软件。基于这些结果,我认为贝叶斯场论有望为一维密度估计问题提供确切的解决方案。
引用
@article{arxiv.1411.5371,
title = {Unification of field theory and maximum entropy methods for learning probability densities},
author = {Justin B. Kinney},
journal= {arXiv preprint arXiv:1411.5371},
year = {2015}
}
备注
16 pages, 4 figures. Minor clarifying changes have been made throughout. Software is available at https://github.com/jbkinney/14_maxent