中文

子集信号模型下纠缠单样本高斯分布的均值学习

机器学习 2020-07-14 v1 数据结构与算法 机器学习

摘要

在纠缠单样本分布设定中,目标是在给定来自 nn 个分布中各一个单样本的情况下,估计这些分布共享的某个公共参数。本文研究具有公共均值但不同未知方差的纠缠单样本高斯分布的均值估计。我们提出子集信号模型,其中未知大小为 mm 的子集的方差以 1 为界,而对其他方差不作假设。在该模型中,我们分析一种基于迭代平均截断样本的简单自然方法,并证明当 m=Ω(nlnn)m=\Omega(\sqrt{n\ln n}) 时,该方法以高概率达到误差 O(nlnnm)O \left(\frac{\sqrt{n\ln n}}{m}\right),与此范围内已有界相匹配。我们进一步证明下界:当 mm 介于 Ω(lnn)\Omega(\ln n)O(n1/4)O(n^{1/4}) 之间时误差为 Ω((nm4)1/2)\Omega\left(\left(\frac{n}{m^4}\right)^{1/2}\right),而当 mm 介于 Ω(n1/4)\Omega(n^{1/4})O(n1ϵ)O(n^{1 - \epsilon}) 之间(对任意小的 ϵ>0\epsilon>0)时误差为 Ω((nm4)1/6)\Omega\left(\left(\frac{n}{m^4}\right)^{1/6}\right),改进了现有下界并扩展到更宽的 mm 范围。

关键词

引用

@article{arxiv.2007.05557,
  title  = {Learning Entangled Single-Sample Gaussians in the Subset-of-Signals Model},
  author = {Yingyu Liang and Hui Yuan},
  journal= {arXiv preprint arXiv:2007.05557},
  year   = {2020}
}

备注

Appear in COLT'2020. Updates: corrected comments on existing works; added comparison to median estimator