基于深度神经网络向量到向量回归的平均绝对误差上界分析
机器学习
2020-08-13 v1 信号处理
机器学习
摘要
在本文中，我们证明在利用深度神经网络（DNNs）进行向量到向量回归时，预测特征向量与期望特征向量之间广义平均绝对误差（MAE）损失由上界界定为逼近误差、估计误差与优化误差之和。借助统计学习理论中的误差分解技术与非凸优化理论，我们推导了上述三类误差的上界，并对 DNN 模型施加了必要约束。此外，我们通过一组图像去噪与语音增强实验评估了我们的理论结果。我们所提出的基于 DNN 的向量到向量回归 MAE 上界得到了实验结果的证实，且无论是否采用“过参数化”技术，该上界均成立。
引用
@article{arxiv.2008.05459,
title = {Analyzing Upper Bounds on Mean Absolute Errors for Deep Neural Network Based Vector-to-Vector Regression},
author = {Jun Qi and Jun Du and Sabato Marco Siniscalchi and Xiaoli Ma and Chin-Hui Lee},
journal= {arXiv preprint arXiv:2008.05459},
year = {2020}
}