学习覆盖函数与边缘分布的私有释放

我们研究了逼近和学习覆盖函数的问题。如果存在一个宇宙 $U$，其中每个 $u \in U$ 具有非负权重 $w(u)$，以及 $U$ 的子集 $A_1, A_2, \ldots, A_n$，使得 $c(S) = \sum_{u \in \cup_{i \in S} A_i} w(u)$，则函数 $c: 2^{[n]} \rightarrow \mathbf{R}^{+}$ 是一个覆盖函数。或者，覆盖函数可以描述为单调析取式的非负线性组合。它们是次模函数的一个自然子类，并出现在许多应用中。我们给出了一种算法，对于任何 $\gamma,\delta>0$，给定未知覆盖函数 $c$ 的随机均匀样本，该算法能在 $poly(n,1/\gamma,1/\delta)$ 时间内找到一个函数 $h$，使其在除 $\delta$ 比例点之外的所有点上以 $1+\gamma$ 因子逼近 $c$。这是在 Balcan 和 Harvey (2011) 要求苛刻的 PMAC 模型中学习一类有趣函数的首个完全多项式时间算法。我们的算法基于覆盖函数的几个新结构性质。利用 (Feldman and Kothari, 2014) 的结果，我们还表明覆盖函数可以在 $n^{\log(1/\epsilon)}$ 时间内以超过 $\ell_1$-误差 $\epsilon$ 的方式在所有乘积分布和对称分布上进行不可知学习。相比之下，我们表明，在没有分布假设的情况下，学习覆盖函数至少和学习多项式规模的不相交 DNF 公式一样困难，这类函数的最佳已知算法运行时间为 $2^{\tilde{O}(n^{1/3})}$ (Klivans and Servedio, 2004)。作为我们学习结果的应用，我们给出了简单的差分私有算法，用于以低平均误差释放单调合取计数查询。特别是，对于任何 $k \leq n$，我们以 $n^{O(\log(1/\bar{\alpha}))}$ 的时间获得了平均误差为 $\bar{\alpha}$ 的 $k$-路边缘分布的私有释放。