高斯平滑最优传输距离下的非参数混合极大似然估计
统计理论
2021-12-07 v1 信息论
机器学习
math.IT
统计理论
摘要
由 Goldfeld 等人 (2020) 开创并经一系列后续论文跟进的高斯平滑最优传输 (GOT) 框架，迅速引起了统计、机器学习、信息论及相关领域研究人员的关注。其中一个关键观察是，通过适配 GOT 框架而非其未平滑对应物，可消除使用经验测度逼近真实数据生成分布时的维度灾难。本文表明，一个相关的观察适用于离散指数族模型中的非参数混合分布估计，其中在 GOT 代价下，非参数 MLE 的估计精度可加速至多项式速率。这与基于未平滑度量的经典亚多项式速率形成鲜明对比，后者从信息论角度无法被改进。我们分析中的一个关键步骤是建立了高斯卷积 Lipschitz 函数的新 Jackson 型逼近界。这一见解桥接了分析非参数 MLE 的现有技术与新的 GOT 框架。
引用
@article{arxiv.2112.02421,
title = {Nonparametric mixture MLEs under Gaussian-smoothed optimal transport distance},
author = {Fang Han and Zhen Miao and Yandi Shen},
journal= {arXiv preprint arXiv:2112.02421},
year = {2021}
}
备注
26 pages