中文

基于自由确定性等价的随机矩阵模型随机优化中的柯西噪声损失

机器学习 2021-06-07 v4 机器学习 算子代数 概率论

摘要

对于随机矩阵模型,基于传统似然函数的参数估计并不简单,特别是当仅有一个样本矩阵时。我们引入了一种即便在此类情况下也适用的随机矩阵模型参数优化新方法。该方法基于谱分布而非传统似然。在该方法中,柯西噪声起着本质作用,因为自由概率论中的工具——自由确定性等价——使我们能够用光滑且易处理的密度函数近似受柯西噪声扰动的谱分布。此外,我们研究了确定差距的渐近性质,其角色类似于泛化差距。另外,我们提出了一种针对信号加噪声模型的新维度恢复方法,并通过实验证明即使真实秩并不小,它也能恢复信号部分的秩。这是一个同时进行的秩选择与参数估计过程。

关键词

引用

@article{arxiv.1804.03154,
  title  = {Cauchy noise loss for stochastic optimization of random matrix models via free deterministic equivalents},
  author = {Tomohiro Hayase},
  journal= {arXiv preprint arXiv:1804.03154},
  year   = {2021}
}

备注

29 pages, 13 figures, v3: minor correction. Submitted. Our simulation code is available at https://github.com/ThayaFluss/cnl. Submitted to a journal