含 Massart 噪声半空间学习的密码学困难性

我们研究在 Massart 噪声存在下 PAC 学习半空间的复杂性。该问题中，给定独立同分布带标签样本 $(\mathbf{x}, y) \in \mathbb{R}^N \times \{ \pm 1\}$，其中 $\mathbf{x}$ 的分布任意，标签 $y$ 是未知半空间 $f: \mathbb{R}^N \to \{ \pm 1\}$ 的 Massart 污染，翻转概率 $\eta(\mathbf{x}) \leq \eta < 1/2$。学习者的目标是计算具有较小 0-1 误差的假设。我们的主要结果是该学习问题的首个计算困难性结果。具体而言，假设（被广泛相信的）亚指数时间 Learning with Errors (LWE) 问题的困难性，我们证明即使最优 0-1 误差很小，即 $\mathrm{OPT} = 2^{-\log^{c} (N)}$（$c \in (0, 1)$ 为任意通用常数），任何多项式时间 Massart 半空间学习器都无法达到优于 $\Omega(\eta)$ 的误差。先前工作在 Statistical Query 模型中提供了定性类似的困难性证据。我们的计算困难性结果通过表明该问题已知高效学习算法近乎最优，基本解决了 Massart 半空间的多项式 PAC 可学习性。