它全在（指数）分布 family 中：最大似然估计与控制变量在草图算法中的等效性
机器学习
2026-02-05 v2 机器学习
应用统计
摘要
最大似然估计（MLE）和控制变量估计（CVE）已用于已知信息与草图算法及机器学习中的结合使用。我们在指数分布族中证明，在某些条件下，最优 CVE 将实现与 MLE 相同的渐近方差，给出一种用于 MLE 的期望最大化（EM）算法。实验表明，EM 算法在 bivariate 正态分布的 MLE 其他根求解算法中更快且数值稳定，我们预计这在满足这些条件的分布中也hold。我们展示了 EM 算法如何为使用 MLE/CVE 的算法提供可重复性，并演示了 EM 算法如何在 CV 权重已知时求解 MLE。
引用
@article{arxiv.2601.22378,
title = {It's all In the (Exponential) Family: An Equivalence between Maximum Likelihood Estimation and Control Variates for Sketching Algorithms},
author = {Keegan Kang and Kerong Wang and Ding Zhang and Rameshwar Pratap and Bhisham Dev Verma and Benedict H. W. Wong},
journal= {arXiv preprint arXiv:2601.22378},
year = {2026}
}
备注
36 pages, 15 figures, accepted to AISTATS 2026 (poster)