使用解扰器群进行神经网络解释
信号处理
2021-01-28 v3
摘要
缺乏可解释性和信任是深度神经网络备受批评的特性。在全连接网络中，内层之间的信号传递是混乱的，因为反向传播训练并不要求感知机以任何特定顺序排列。结果是一个黑箱；这个问题在科学计算和数字信号处理（DSP）中尤为严重，其中神经网络执行的抽象数学变换不能归结为特征或概念。我们在此提出一种群论过程，试图将内层信号转换为人类可读的形式，其假设是该形式存在且具有可识别和可量化的特征——例如平滑性或局部性。我们将所提方法应用于DEERNet（电子自旋共振中使用的DSP网络）并成功对其解扰。我们发现了相当高的内部复杂性：网络在从随机初始猜测开始的无监督十分钟训练中，自发地发明了带通滤波器、陷波滤波器、频率轴整流器、频分复用、群嵌入、频谱滤波正则化，以及将调和函数映射为切比雪夫多项式的类傅里叶变换。
引用
@article{arxiv.1912.01498,
title = {Neural network interpretation using descrambler groups},
author = {Jake L. Amey and Jake Keeley and Tajwar Choudhury and Ilya Kuprov},
journal= {arXiv preprint arXiv:1912.01498},
year = {2021}
}