回归前馈神经网络的全局定量鲁棒性
机器学习
2022-11-21 v1 机器学习
摘要
神经网络是许多复杂学习任务中不可或缺的模型类别。尽管神经网络广受欢迎且十分重要,并且文献中已有许多用于稳定和鲁棒化训练的成熟技术,但来自鲁棒统计的经典概念迄今为止很少在神经网络的背景下被考虑。因此,我们将回归崩溃点的概念推广到回归神经网络,并计算了不同前馈网络配置和污染设置下的崩溃点。在一项广泛的模拟研究中,我们通过样本外损失、崩溃率的代理指标以及训练步数,比较了在非鲁棒与鲁棒回归前馈神经网络在大量不同配置下的性能。结果确实表明在神经网络训练中使用鲁棒损失函数是值得的。
引用
@article{arxiv.2211.10124,
title = {Global quantitative robustness of regression feed-forward neural networks},
author = {Tino Werner},
journal= {arXiv preprint arXiv:2211.10124},
year = {2022}
}