全有或全无机制下的最大似然估计研究
信息论
2021-01-26 v1 人工智能
机器学习
math.IT
摘要
我们研究了根据最大似然估计器(MLE)估计高斯张量的秩-1加性形变的问题。分析在稀疏设定下进行,其中底层信号的支持集随维数总数次线性缩放。我们表明,对于伯努利分布信号,MLE 经历全有或全无(AoN)相变,该相变在同一问题中已针对最小均方误差估计器(MMSE)建立。结果源于两个主要技术要点:(i)利用约束信号空间中的一阶与二阶矩方法,在 MLE 与 MMSE 之间建立的联系;(ii)此处被证明为一般性结果的、比标准 AoN 中给出的简单误差消失刻画更严格的 MMSE 恢复机制。
引用
@article{arxiv.2101.09994,
title = {On maximum-likelihood estimation in the all-or-nothing regime},
author = {Luca Corinzia and Paolo Penna and Wojciech Szpankowski and Joachim M. Buhmann},
journal= {arXiv preprint arXiv:2101.09994},
year = {2021}
}