中文

带不完美建议的乘积分布学习

机器学习 2025-11-14 v1

摘要

给定来自未知分布 PP 的独立同分布样本,分布学习的目标是恢复接近 PP 的分布的参数。当 PP 属于布尔超立方 {0,1}d\{0,1\}^d 上的乘积分布时,已知需要 Ω(d/ε2)\Omega(d/\varepsilon^2) 个样本才能在总变差距离 ε\varepsilon 内学习 PP。我们重新审视这个问题,当学习者还被给出一个乘积分布 QQ 的参数作为建议时。我们证明,如果 pq1<εd0.5Ω(η)\|\mathbf{p} - \mathbf{q}\|_1 < \varepsilon d^{0.5 - \Omega(\eta)},则存在一种高效算法能够在总变差距离 ε\varepsilon 内学习 PP,其样本复杂度为 O~(d1η/ε2)\tilde{O}(d^{1-\eta}/\varepsilon^2)。这里 p\mathbf{p}q\mathbf{q} 分别是 PPQQ 的均值向量,且算法 priori 不知道 pq1\|\mathbf{p} - \mathbf{q}\|_1 的上界。

关键词

引用

@article{arxiv.2511.10366,
  title  = {Product distribution learning with imperfect advice},
  author = {Arnab Bhattacharyya and Davin Choo and Philips George John and Themis Gouleakis},
  journal= {arXiv preprint arXiv:2511.10366},
  year   = {2025}
}

备注

Full version (11 pages). To be published in NeurIPS 2025