对于插值核机器,最小化ERM解的范数最小化稳定性
机器学习
2020-10-13 v2 机器学习
摘要
我们研究核无岭回归的平均稳定性,并推导相应的风险界。我们证明具有最小范数的插值解最小化了一个稳定性界,而该界进而由经验核矩阵的条件数控制。后者可在数据维数与基数均趋于无穷的渐近 regime下刻画。在随机核矩阵假设下,相应的测试误差预期遵循双下降曲线。
引用
@article{arxiv.2006.15522,
title = {For interpolating kernel machines, minimizing the norm of the ERM solution minimizes stability},
author = {Akshay Rangamani and Lorenzo Rosasco and Tomaso Poggio},
journal= {arXiv preprint arXiv:2006.15522},
year = {2020}
}