稀疏多族深度散射网络
机器学习
2020-12-15 v1 机器学习
摘要
在这项工作中，我们提出稀疏多族深度散射网络（SMF-DSN），一种利用深度散射网络（DSN）可解释性并提升其表达能力的新型架构。DSN 通过级联小波变换、复模运算，并经平移不变算子提取数据的表示，从而提取信号中显著且可解释的特征。首先，借助过去几十年高度专门化小波滤波器的发展，我们提出一种面向 DSN 的多族方法。具体而言，我们提出在网络的每一层交叉多个小波变换，从而增加特征多样性并免去专家选择适当滤波器的需要。其次，我们开发了适用于 DSN 的最优阈值策略，该策略正则化网络并控制信号可能引起的不稳定性，例如非平稳噪声。我们系统且有原则的解决方案通过充当区分活动与噪声的局部掩码，使网络的潜表示稀疏化。SMF-DSN 通过（i）增加散射系数的多样性以及（ii）提升相对于非平稳噪声的鲁棒性来增强 DSN。
引用
@article{arxiv.2012.07662,
title = {Sparse Multi-Family Deep Scattering Network},
author = {Romain Cosentino and Randall Balestriero},
journal= {arXiv preprint arXiv:2012.07662},
year = {2020}
}
备注
arXiv admin note: substantial text overlap with arXiv:1712.09117