半空间的测试器-学习器:通用算法
机器学习
2023-05-22 v1 数据结构与算法
机器学习
摘要
我们给出首个在广泛的结构化分布类上普遍成功的半空间测试器-学习器。我们的通用测试器-学习器在完全多项式时间内运行,并具有以下保证:学习器在测试器接受的任意标注分布上达到误差 ,且此外,当边际为任意满足 Poincar\'e 不等式的分布时测试器接受。与先前关于可测试学习的工作不同,我们的测试器并非为任何单一目标分布量身定制,而是对整个目标分布类成功。Poincar\'e 分布类包含所有强对数凹分布,并且假设 Kannan--L\'{o}vasz--Simonovits(KLS)猜想,包含所有对数凹分布。在标签噪声已知为 Massart 的特殊情况下,我们的测试器-学习器达到误差 ,同时无条件接受所有对数凹分布(无需假设 KLS)。我们的测试依赖于使用平方和(SOS)程序检验未知分布的超收缩性,并关键地利用了 Poincar\'e 分布在 SOS 框架下可证明为超收缩的这一事实。
引用
@article{arxiv.2305.11765,
title = {Tester-Learners for Halfspaces: Universal Algorithms},
author = {Aravind Gollakota and Adam R. Klivans and Konstantinos Stavropoulos and Arsen Vasilyan},
journal= {arXiv preprint arXiv:2305.11765},
year = {2023}
}
备注
26 pages, 2 figures