置换Rademacher复杂度:一种用于转导学习的新的复杂度度量
机器学习
2016-02-24 v2 机器学习
摘要
转导学习考虑如下情形:学习者观测到 个带标签训练点和 个无标签测试点,最终目标是给出测试点的正确答案。本文引入了一种用于转导学习的新复杂度度量,称为置换Rademacher复杂度(PRC),并研究了其性质。证明了一个新的对称化不等式,表明与标准i.i.d.设定相比,PRC对经验过程的期望上确界提供了更紧的控制。还提供了一系列比较结果,展示了PRC与统计学习理论中其他流行复杂度度量(包括Rademacher复杂度和转导Rademacher复杂度(TRC))之间的关系。我们认为PRC是更适合转导学习的复杂度度量。最后,将这些结果与标准集中不等式论证相结合,为转导学习提供了新颖的数据依赖风险界。
引用
@article{arxiv.1505.02910,
title = {Permutational Rademacher Complexity: a New Complexity Measure for Transductive Learning},
author = {Ilya Tolstikhin and Nikita Zhivotovskiy and Gilles Blanchard},
journal= {arXiv preprint arXiv:1505.02910},
year = {2016}
}
备注
Corrected error in Inequality (1)