非离散情形下 Vapnik-Chervonenkis 维度的计算
数据结构与算法
2023-08-22 v1 计算复杂性
机器学习
摘要
1984 年，Valiant [7] 引入了针对布尔函数类的可能近似正确（Probably Approximately Correct, PAC）学习框架。Blumer 等人 [2] 于 1989 年扩展了该模型，引入 VC 维度作为刻画 PAC 可学习性的工具。VC 维度基于 Vapnik 和 Chervonenkis 在 1971 年 [8] 的工作，他们引入了称为增长函数的工具来刻画打散性质。此后研究者确定了特定类的 VC 维度，并努力开发能够计算任意概念类 VC 维度的算法。1991 年，Linial、Mansour 和 Rivest [4] 提出了在离散情形下计算 VC 维度的算法，假设概念类和域集均为有限。然而，此前尚无尝试设计能在一般情形下计算 VC 维度的算法。因此，我们的工作致力于开发一种无需对概念类或其域集施加约束即可近似计算 VC 维度的方法。我们的方法基于如下发现：经验风险最小化（Empirical Risk Minimization, ERM）学习范式可用作刻画概念类打散性质的新工具。
引用
@article{arxiv.2308.10041,
title = {Computing the Vapnik Chervonenkis Dimension for Non-Discrete Settings},
author = {Mohammed Nechba and Mouhajir Mohamed and Sedjari Yassine},
journal= {arXiv preprint arXiv:2308.10041},
year = {2023}
}