含噪声训练集下神经网络增量学习的实证研究
机器学习
2020-05-08 v1 机器学习
摘要
增量学习的概念是分阶段训练人工神经网络(ANN)算法,即在新的训练数据到达时随之进行训练。随着深度学习的出现,增量学习在近年来变得日益普及。训练数据中的噪声会降低算法的准确率。在本文中,我们对训练阶段中噪声的影响进行了实证研究。我们通过数值表明,算法的准确率更多地依赖于误差的位置而非误差的百分比。使用感知机、前馈神经网络和径向基函数神经网络,我们表明在相同的误差百分比下,算法的准确率随误差位置的不同而显著变化。此外,我们的结果表明,准确率对误差位置的依赖性与算法无关。然而,退化曲线的斜率随算法更复杂而减小。
引用
@article{arxiv.2005.03266,
title = {An Empirical Study of Incremental Learning in Neural Network with Noisy Training Set},
author = {Shovik Ganguly and Atrayee Chatterjee and Debasmita Bhoumik and Ritajit Majumdar},
journal= {arXiv preprint arXiv:2005.03266},
year = {2020}
}
备注
Oral Presentation delivered at the 7th International Conference on Computers and Devices for Communication (CODEC) 2019. To appear in Lecture Notes in Networks and Systems (LNSS Springer)