论隐式自步目标函数的收敛性
人工智能
2017-03-30 v1
摘要
自步学习是一种模拟人类/动物学习原则的新方法,即从学习任务中较简单的方面开始,然后逐渐将更复杂的样本纳入训练。这种新兴的学习机制已在各种计算机视觉和模式识别任务中被经验性地证实有效。最近已经证明,SPL 机制与隐式自步目标函数密切相关。尽管这一隐式目标函数可以为 SPL 范式下的有效性(尤其是鲁棒性)提供有益的解释,但仍然没有严格证明的理论结果来验证这种关系。针对这一问题,本文提供了关于 SPL 这一隐式目标函数的一些收敛结果。具体而言,我们证明了在一些温和条件下,SPL 的学习过程总是收敛到该隐式目标函数的临界点。这一结果验证了 SPL 与该隐式目标函数之间的内在联系,并使得先前关于 SPL 的鲁棒性分析变得完整且在理论上合理。
引用
@article{arxiv.1703.09923,
title = {On Convergence Property of Implicit Self-paced Objective},
author = {Zilu Ma and Shiqi Liu and Deyu Meng},
journal= {arXiv preprint arXiv:1703.09923},
year = {2017}
}
备注
9 pages, 0 figures