可实现情形下 VC 类恰当学习器的信息复杂度
机器学习
2020-11-06 v1 信息论
math.IT
摘要
我们对 Steinke 与 Zakynthinou（2020a）的一个猜想给出了否定性解决，表明其对 VC（Vapnik–Chervonenkis）类恰当学习器的条件互信息（CMI）的界无法从 改进到 ，其中 为独立同分布训练样本数。事实上，我们给出了这样的 VC 类：其中任何恰当学习器的 CMI 都无法仅由 VC 维的实值函数所界定。
引用
@article{arxiv.2011.02970,
title = {On the Information Complexity of Proper Learners for VC Classes in the Realizable Case},
author = {Mahdi Haghifam and Gintare Karolina Dziugaite and Shay Moran and Daniel M. Roy},
journal= {arXiv preprint arXiv:2011.02970},
year = {2020}
}
备注
5 Pages