高斯边际分布下半空间函数的恰当 agnostic 学习

我们研究了在高斯分布下，对二维概念类的恰当agnostic学习的计算效率问题。在此设置下，给定来自未知分布的独立同分布标记样本，该分布在$\mathbb{R}^d \times \{\pm 1\}$上的边际在$\mathbb{R}^d$上是高斯分布，目标是输出一个来自目标类$\mathcal{F}$的假设，其0-1损失在$\epsilon$范围内，优于$\mathcal{F}$中最佳分类器。我们给出了对任意布尔函数的K个半空间在高斯边际下的恰当agnostic学习算法。我们的算法在时间上为$d^{O(K^2 \log(1/\epsilon)/\epsilon^2)} + (K/\epsilon)^{O(K^3/\epsilon^{2.5})}$。在此之前，针对K \geq 2的唯一已知算法是暴力搜索，运行时间是维度d的指数级。此外，我们算法对维度d的依赖程度与最佳已知不恰当学习算法的依赖程度相同，即为$\widetilde{O}(K^2/\epsilon^2)$。对于单个半空间(K=1)的特殊情况，最佳的先前运行时间为$d^{O(1/\epsilon^4)} + (1/\epsilon)^{O(1/\epsilon^6)}$，而我们的算法将其改进为$d^{O(1/\epsilon^2)} + (1/\epsilon)^{O(1/\epsilon^{2.5})}$。再次地，我们算法对维度d的依赖程度与最佳已知不恰当算法的依赖程度相同，即为$d^{O(1/\epsilon^2)}$。此外，我们算法对维度d的依赖在统计查询模型中几乎是最优的。