插值分类器很少犯错
机器学习
2021-07-30 v2 机器学习
数值分析
数值分析
统计理论
统计理论
摘要
本文对最小范数插值分类器(MNIC)的悔值和泛化性给出了初等分析。MNIC 是在有限数据集上完美插值标签模式且具有最小再生核 Hilbert 空间范数的函数。我们推导了 MNIC 及其正则化变体的错误界,该界对所有数据集均成立。此界源于矩阵逆的初等性质。在数据为独立同分布假设下,该错误界意味着 MNIC 的泛化速率与插值解的范数成正比,与数据点数成反比。该速率与针对间隔分类器和感知机推导的类似速率一致。我们推导了若干合理的生成模型,其中插值分类器的范数有界或以亚线性于 的速率增长。我们还证明,只要总体类条件分布在全变分意义下充分可分离,则 MNIC 以快速率泛化。
引用
@article{arxiv.2101.11815,
title = {Interpolating Classifiers Make Few Mistakes},
author = {Tengyuan Liang and Benjamin Recht},
journal= {arXiv preprint arXiv:2101.11815},
year = {2021}
}
备注
23 pages, 2 figures