基于深度神经网络的向量到向量回归中平均绝对误差的研究
音频与语音处理
2020-08-18 v1 机器学习
声音
信号处理
机器学习
摘要
在本文中，我们利用平均绝对误差（MAE）作为基于深度神经网络（DNN）的向量到向量回归损失函数的性质。本工作的目标有二：（i）给出 MAE 的性能界；（ii）展示 MAE 的新性质，使其比均方误差（MSE）更适于作为基于 DNN 的向量到向量回归的损失函数。首先，我们表明通过利用已知的 MAE 的 Lipschitz 连续性性质，可确保基于 DNN 的向量到向量回归的广义上界。接着，我们推导出在加性噪声存在时的新的广义上界。最后，与通常用于回归中近似高斯误差的常规 MSE 不同，我们表明 MAE 可被解释为由拉普拉斯分布建模的误差。我们开展了语音增强实验以佐证我们所提定理，并验证 MAE 相对于 MSE 在基于 DNN 回归中的性能优势。
引用
@article{arxiv.2008.07281,
title = {On Mean Absolute Error for Deep Neural Network Based Vector-to-Vector Regression},
author = {Jun Qi and Jun Du and Sabato Marco Siniscalchi and Xiaoli Ma and Chin-Hui Lee},
journal= {arXiv preprint arXiv:2008.07281},
year = {2020}
}