边缘约束下的最大熵类别分布
高能物理 - 理论
2023-11-17 v2 统计力学
机器学习
摘要
在概括总体样本的边缘约束下，以最具泛化性的方式估计类别分布，是许多机器学习和数据驱动方法的关键。我们提供了一个参数无关的理论框架，该框架能够确保：(i) 边缘约束下的最大熵类别分布始终存在，并且 (ii) 该分布是唯一的。迭代比例拟合（IPF）过程可直接在概率空间中从任意一致的边缘约束集自然估计出该分布，从而演绎性地识别出对总体偏差最小的表征。该理论框架与IPF相结合，形成了一个整体工作流程，使得仅利用所提供的现象学信息即可对任何类别的类别分布进行建模。
引用
@article{arxiv.2204.03406,
title = {Categorical Distributions of Maximum Entropy under Marginal Constraints},
author = {Orestis Loukas and Ho Ryun Chung},
journal= {arXiv preprint arXiv:2204.03406},
year = {2023}
}
备注
20 pages, 5 figures, 1 Excel file