高斯边缘分布下可靠学习半空间

我们研究了在Kalai等人（2012）提出的可靠不可知模型下PAC学习半空间的问题。可靠PAC模型捕捉了一类错误代价高于其他错误的学习场景。我们的主要正面成果是一种新算法，用于在$\mathbb{R}^d$上可靠学习高斯半空间，其样本和计算复杂度为$$d^{O(\log (\min\{1/\alpha, 1/\epsilon\}))}\min (2^{\log(1/\epsilon)^{O(\log (1/\alpha))}},2^{\mathrm{poly}(1/\epsilon)})\;,$$其中$\epsilon$是超额误差，$\alpha$是最优半空间的偏差。我们用一个统计查询下界补充了我们的上界，表明$d^{\Omega(\log (1/\alpha))}$的依赖关系可能是最优的。从概念上讲，我们的结果意味着在高斯设定下，半空间的可靠不可知学习与标准不可知学习之间存在强大的计算分离。