指数族与随机镜像下降的 MAP 收敛速率——一个开放问题
计算机视觉与模式识别
2021-11-15 v1 人工智能
机器学习
摘要
我们考虑以非渐近方式对指数族的最大似然估计（MLE）或共轭最大后验（MAP）的期望对数似然次优性给出上界的问题。令人惊讶的是，我们在文献中未发现该问题的一般解。特别地，现有理论对高斯或有趣的小样本情形不成立。在展示该问题的多方面特性后，我们表明可将 MAP 解释为在似然对数上运行随机镜像下降（SMD）。然而，现代收敛结果对指数族的标准示例并不适用，凸显了收敛文献中的漏洞。我们相信解决这一非常基础的问题可能为统计与优化两个领域带来进展。
引用
@article{arxiv.2111.06827,
title = {NRC-GAMMA: Introducing a Novel Large Gas Meter Image Dataset},
author = {Ashkan Ebadi and Patrick Paul and Sofia Auer and Stéphane Tremblay},
journal= {arXiv preprint arXiv:2111.06827},
year = {2021}
}
备注
12 pages, 7 figures, 1 table