基于核的梯度下降算法的自适应停止准则
机器学习
2023-06-14 v2 机器学习
摘要
在本文中,我们提出了一种用于基于核的梯度下降(KGD)算法的自适应停止准则。我们引入经验有效维度来量化 KGD 中迭代的增量,并推导出一种可实现的早停策略。我们在学习理论的框架下分析了该自适应停止准则的性能。利用最近发展的积分算子方法,我们严格证明了该自适应停止准则的最优性,给出了配备此准则的 KGD 的最优学习率。此外,还给出了配备所提早停准则的 KGD 迭代次数的锐界,以展示其计算优势。
引用
@article{arxiv.2001.02879,
title = {Adaptive Stopping Rule for Kernel-based Gradient Descent Algorithms},
author = {Xiangyu Chang and Shao-Bo Lin},
journal= {arXiv preprint arXiv:2001.02879},
year = {2023}
}
备注
There is a critical wrong in the proof