中文

基于平方和层级结构的噪声张量补全

机器学习 2016-02-19 v3 数据结构与算法 机器学习

摘要

在噪声张量补全问题中,我们从一个未知的 n1×n2×n3n_1 \times n_2 \times n_3 张量 TT 中观测到 mm 个条目(其位置是均匀随机选择的)。我们假设 TT 在逐元素意义上接近秩 rr。我们的目标是使用尽可能少的观测值来填充其缺失条目。令 n=max(n1,n2,n3)n = \max(n_1, n_2, n_3)。我们表明,如果 m=n3/2rm = n^{3/2} r,则存在一种基于平方和 (sum-of-squares) 层级结构第六层的多项式时间算法来完成补全。我们的估计值与 TT 的几乎所有条目几乎完全一致,即使在观测值受到噪声污染的情况下也能奏效。这也是首个适用于过完备情形(即 r>nr > n)的张量补全算法,事实上它适用于高达 r=n3/2ϵr = n^{3/2-\epsilon} 的情形。我们的证明简短而简洁,基于通过 Rademacher 复杂度语言建立噪声张量补全与反驳随机常数满足性问题任务之间的新联系。这种联系即使在矩阵补全的背景下也似乎一直被忽视。此外,我们利用这种联系展示了匹配的下界。我们的主要技术结果在于刻画了在张量核范数的平方和松弛中产生的一系列范数的 Rademacher 复杂度。这些结果指向了一个有趣的新方向:我们能否通过平方和层级结构来探索计算复杂度与样本复杂度之间的权衡?

关键词

引用

@article{arxiv.1501.06521,
  title  = {Noisy Tensor Completion via the Sum-of-Squares Hierarchy},
  author = {Boaz Barak and Ankur Moitra},
  journal= {arXiv preprint arXiv:1501.06521},
  year   = {2016}
}

备注

24 pages