中文

半空间的测试器-学习器:通用算法

机器学习 2023-05-22 v1 数据结构与算法 机器学习

摘要

我们给出首个在广泛的结构化分布类上普遍成功的半空间测试器-学习器。我们的通用测试器-学习器在完全多项式时间内运行,并具有以下保证:学习器在测试器接受的任意标注分布上达到误差 O(opt)+ϵO(\mathrm{opt}) + \epsilon,且此外,当边际为任意满足 Poincar\'e 不等式的分布时测试器接受。与先前关于可测试学习的工作不同,我们的测试器并非为任何单一目标分布量身定制,而是对整个目标分布类成功。Poincar\'e 分布类包含所有强对数凹分布,并且假设 Kannan--L\'{o}vasz--Simonovits(KLS)猜想,包含所有对数凹分布。在标签噪声已知为 Massart 的特殊情况下,我们的测试器-学习器达到误差 opt+ϵ\mathrm{opt} + \epsilon,同时无条件接受所有对数凹分布(无需假设 KLS)。我们的测试依赖于使用平方和(SOS)程序检验未知分布的超收缩性,并关键地利用了 Poincar\'e 分布在 SOS 框架下可证明为超收缩的这一事实。

关键词

引用

@article{arxiv.2305.11765,
  title  = {Tester-Learners for Halfspaces: Universal Algorithms},
  author = {Aravind Gollakota and Adam R. Klivans and Konstantinos Stavropoulos and Arsen Vasilyan},
  journal= {arXiv preprint arXiv:2305.11765},
  year   = {2023}
}

备注

26 pages, 2 figures