近似弹性、单调性与不可知学习的复杂性

若函数 $f$ 的所有次数不超过 $d$ 的 Fourier 系数均为零，即 $f$ 与所有低次奇偶性函数不相关，则称 $f$ 是 $d$-弹性的。我们研究了布尔函数的近似弹性概念，若 $f$ 在 $\ell_1$ 距离上与某个 $[-1,1]$ 值的 $d$-弹性函数相差 $\alpha$，则称 $f$ 是 $\alpha$-近似 $d$-弹性的。我们证明，近似弹性本质上刻画了均匀分布下概念类 $C$ 的不可知学习复杂性。粗略地说，若类 $C$ 中所有函数均远离 $d$-弹性，则 $C$ 可在 $n^{O(d)}$ 时间内被不可知学习；反之，若 $C$ 包含一个接近 $d$-弹性的函数，则在 Kearns 的统计查询（SQ）框架下 $C$ 的不可知学习复杂性至少为 $n^{\Omega(d)}$。该刻画基于我们所建立的 $d$ 次多项式 $\ell_1$ 逼近与近似 $d$-弹性之间的对偶性。特别地，它蕴含了已知对乘积分布上不可知学习充分的低次多项式 $\ell_1$ 逼近实际上是必要的。聚焦于单调布尔函数，我们证明了对于所有 $\alpha>0$，存在近最优的 $\alpha$-近似 $\widetilde{\Omega}(\alpha\sqrt{n})$-弹性单调函数。在我们工作之前，甚至可以设想每个单调函数与任何 $1$-弹性函数的距离均为 $\Omega(1)$。此外，我们基于 ${\sf Tribes}$ 和 ${\sf CycleRun}$ 构造了简单且显式的单调函数，它们接近于高弹性函数。我们的构造基于相当一般的弹性分析与放大。这些结构性结果连同上述刻画，共同蕴含了单调并元函数不可知学习的近最优下界。