交集封闭类与极值类的无标记样本压缩方案
机器学习
2022-10-12 v1 离散数学
摘要
概念类的样本可压缩性在学习理论中扮演着重要角色,它既是 PAC 可学习性的充分条件,近来又作为自适应数据分析中稳健泛化的途径。对于 VC 维为 的所有类是否必然存在大小为 的压缩方案尚属未知,但 Warmuth 猜想其为真。最近,Chalopin、Chepoi、Moran 和 Warmuth(2018)为所有极大类(即满足 Sauer-Shelah-Perles 引理等号成立的类)给出了一种大小为 VC 维的优美无标记样本压缩方案。他们还提供了一个反例,以反驳基于一种被称为角剥离的有前景方法的压缩方案。在本文中,我们简化并扩展了他们的证明技术,以处理 VC 维为 且包含 VC 维为 的极大类的所谓极值类。我们给出了一个判据,该判据将意味着所有极值类都允许大小为 的无标记压缩方案。我们还证明了所有 VC 维为 的交集封闭类都允许大小至多为 的无标记压缩方案。
引用
@article{arxiv.2210.05455,
title = {Unlabelled Sample Compression Schemes for Intersection-Closed Classes and Extremal Classes},
author = {J. Hyam Rubinstein and Benjamin I. P. Rubinstein},
journal= {arXiv preprint arXiv:2210.05455},
year = {2022}
}
备注
Appearing at NeurIPS2022