中文

Chow 参数问题的近最优解与半空间的低权重逼近

计算复杂性 2012-06-06 v1 数据结构与算法 机器学习

摘要

布尔函数 f:{1,1}n{1,1}f: \{-1,1\}^n \to \{-1,1\} 的 \emph{Chow 参数} 是其 n+1n+1 个 0 阶和 1 阶 Fourier 系数。自 1961 年 (Chow, Tannenbaum) 起便已知道,任何线性阈值函数 ff 的 Chow 参数(精确值)在所有布尔函数空间中唯一确定 ff,但直到最近 (O'Donnell 和 Servedio),对于从其 Chow 参数的精确或近似值\emph{重构} ff(精确或近似)的高效算法才有所了解。我们将此重构问题称为 \emph{Chow 参数问题}。我们的主要结果是针对 Chow 参数问题的一种新算法,给定任何线性阈值函数 ff 的 Chow 参数(或足够精确的近似值),该算法运行时间为 O~(n2)(1/\eps)O(log2(1/\eps))\tilde{O}(n^2)\cdot (1/\eps)^{O(\log^2(1/\eps))},并以高概率输出一个与 ff 的距离为 \eps\eps 的 LTF ff' 的表示。此前唯一的算法 (O'Donnell 和 Servedio) 的运行时间为 \poly(n)22O~(1/\eps2)\poly(n) \cdot 2^{2^{\tilde{O}(1/\eps^2)}}。作为我们方法的副产品,我们证明了对于 {1,1}n\{-1,1\}^n 上的任何线性阈值函数 ff,存在一个与 ff 的距离为 \eps\eps 的线性阈值函数 ff',且其所有权重均为不超过 n(1/\eps)O(log2(1/\eps))\sqrt{n} \cdot (1/\eps)^{O(\log^2(1/\eps))} 的整数。这显著改进了 Diakonikolas 和 Servedio 给出 \poly(n)2O~(1/\eps2/3)\poly(n) \cdot 2^{\tilde{O}(1/\eps^{2/3})} 权重界限的先前最佳结果,并且接近已知的下界 max{n,\max\{\sqrt{n}, (1/\eps)Ω(loglog(1/\eps))}(1/\eps)^{\Omega(\log \log (1/\eps))}\} (Goldberg, Servedio)。我们的技术还为学习理论中的相关问题产生了改进的算法。

关键词

引用

@article{arxiv.1206.0985,
  title  = {Nearly optimal solutions for the Chow Parameters Problem and low-weight approximation of halfspaces},
  author = {Anindya De and Ilias Diakonikolas and Vitaly Feldman and Rocco A. Servedio},
  journal= {arXiv preprint arXiv:1206.0985},
  year   = {2012}
}