Vapnik-Chervonenkis 维在模型选择中的使用
机器学习
2018-08-22 v1 机器学习
摘要
在本学位论文中,我推导了一种估计线性函数类的 Vapnik-Chervonenkis 维(VCD)的新方法。该方法受 Vapnik 等人(Vapnik et al., 1994)所开发技术的启发。我的贡献基于两个经验损失之间期望最大差异(EMDBTEL)的近似。事实上,我使用误差的交叉验证形式来计算 EMDBTEL,并通过最小化其右上界中的一个常数使 EMDBTEL 的界更紧。我还利用加性(ERM1)和乘性(ERM2)Chernoff 界推导了真实未知风险的两个界。这些界依赖于估计的 VCD 和经验风险。这些界可用于执行模型选择,并以高概率声明所选模型表现更好,而无需对数据生成过程(DG)做强假设。我在模拟数据集以及三个真实数据集上度量了我的技术的准确性。在合理条件下,VCD 提供的模型选择总是与其他方法一样好,甚至更好。
引用
@article{arxiv.1808.06684,
title = {Use Of Vapnik-Chervonenkis Dimension in Model Selection},
author = {Merlin Mpoudeu},
journal= {arXiv preprint arXiv:1808.06684},
year = {2018}
}
备注
131 pages, 34 figures, and 44 tables