用于改善机器学习泛化能力的复值截断
音频与语音处理
2023-02-28 v1 声音
信号处理
摘要
对于许多机器学习应用，一种常见的输入表示是谱图。谱图的底层表示是给出复数值的短时傅里叶变换（STFT）。谱图使用这些复数值的幅度，这是一种常用的检测器。现代机器学习系统通常过度参数化，其中可能的病态条件问题通过正则化得到缓解。深度网络层间常用的修正线性单元（ReLU）激活函数已被证明有助于此种正则化，从而提升系统性能。我们将 ReLU 激活的这一思想扩展到复值 STFT 的检测，提供了一种易于计算的修正且正则化的谱图，可能带来更良好的训练行为。随后我们在一个用于真实世界应用的含噪声学数据集上证实了该方法的益处，泛化性能得到显著提升。该方法可能惠及其他使用时频映射的应用，如声学、音频及其他应用。
引用
@article{arxiv.2302.13527,
title = {Complex Clipping for Improved Generalization in Machine Learning},
author = {Les Atlas and Nicholas Rasmussen and Felix Schwock and Mert Pilanci},
journal= {arXiv preprint arXiv:2302.13527},
year = {2023}
}
备注
Submitted to IEEE Signal Processing Letters