基于 $h$ 提升Kullback--Leibler散度的紧致域上混合密度估计的风险界
机器学习
2024-12-24 v2 机器学习
摘要
我们考虑基于样本数据使用来自某个成分类的有限密度混合来估计概率密度函数的问题。为此，我们引入了 提升Kullback--Leibler（KL）散度，作为标准KL散度的推广和进行风险最小化的准则。在紧致支撑假设下，我们证明了使用 提升KL散度时期望估计误差的 界，这扩展了Rakhlin等人（2005, ESAIM: Probability and Statistics, Vol. 9）和Li与Barron（1999, Advances in Neural Information Processing Systems, Vol. 12）的结果，以允许对非严格正的密度函数进行风险界定。我们开发了一种使用Majorization-Maximization框架计算相应的最大 提升似然估计量（-MLLEs）的流程，并提供了支持我们理论界限的实验结果。
引用
@article{arxiv.2404.12586,
title = {Risk Bounds for Mixture Density Estimation on Compact Domains via the $h$-Lifted Kullback--Leibler Divergence},
author = {Mark Chiu Chong and Hien Duy Nguyen and TrungTin Nguyen},
journal= {arXiv preprint arXiv:2404.12586},
year = {2024}
}