为何最大熵?一种非公理化进路
数学物理
2012-08-27 v1 math.MP
统计理论
统计理论
摘要
形如 y = X p 的不适定反问题,其中 y 为 J 维数据向量,p 为不可直接测量的 m 维概率向量,X 为已知的 J,m 观测变量矩阵且 J < m,常通过香农熵最大化(MaxEnt)求解。已有若干公理化方案用于在此背景下(亦)证成 MaxEnt 方法。本文工作的主要目的有二:1)从几何视角审视 MaxEnt 与最大似然(ML)任务互补性的概念,并由此 2)对“为何 MaxEnt?”问题给出一个直观且非公理化的回答。
引用
@article{arxiv.math-ph/0212005,
title = {Why Maximum Entropy? A Non-axiomatic Approach},
author = {M. Grendar, and M. Grendar},
journal= {arXiv preprint arXiv:math-ph/0212005},
year = {2012}
}
备注
4 pages, MaxEnt 2001