多项混合模型中贝叶斯泛化误差的渐近行为
机器学习
2022-03-15 v1 统计理论
统计理论
摘要
多项混合模型在信息工程领域被广泛使用，然而由于其为奇异学习模型，其数学性质尚未明确。事实上，这些模型不可辨识且其 Fisher 信息矩阵不是正定的。近年来，奇异统计模型的数学基础已通过代数几何方法得以阐明。在本文中，我们阐明了多项混合模型的实对数典范阈值与重数，并揭示了其泛化误差与自由能的渐近行为。
引用
@article{arxiv.2203.06884,
title = {Asymptotic Behavior of Bayesian Generalization Error in Multinomial Mixtures},
author = {Takumi Watanabe and Sumio Watanabe},
journal= {arXiv preprint arXiv:2203.06884},
year = {2022}
}