可测试学习的一种矩匹配方法及 Rademacher 复杂度的新刻画

Rubinfeld 和 Vasilyan (2022) 的一篇近期杰出论文开创了对\emph{可测试学习} (testable learning) 的研究，其目标是用可高效测试的分布假设取代难以验证的分布假设（如高斯性），并要求只要未知分布通过相应的测试，学习器就必须成功。在该模型中，他们提出了一种在可由高斯分布证明满足的可测试假设下学习半空间的高效算法。在本文中，我们利用概率中的矩匹配和度量距离工具，给出了一种强大的新方法来开发可测试学习算法。对于任何存在低阶\emph{夹逼多项式} (sandwiching polynomials) 的概念类，我们都获得了高效的可测试学习器，这涵盖了大多数我们已有普通不可知学习器的重要实例。作为我们技术的推论，我们恢复了 Rubinfeld 和 Vasilyan 的结果，同时针对广泛的概念类和分布取得了改进的、近最优的样本复杂度界限。令人惊讶的是，我们证明了可测试学习的信息论样本复杂度可由概念类的 Rademacher 复杂度（统计学习理论中被研究得最多的度量之一）紧密刻画。特别地，一致收敛对于可测试学习既是必要条件也是充分条件。这导致了与（普通）分布特定不可知学习的根本分离，在后者中一致收敛是充分条件但非必要条件。