利用有效感受野进行死像素测试
计算机视觉与模式识别
2021-09-01 v1
摘要
深度神经网络已应用于诸多领域，但其内部行为尚不为人所熟知。本研究讨论了卷积神经网络（CNN）的两种反直觉行为。首先，我们评估了感受野的大小。已有研究试图增大或控制感受野大小。然而，我们观察到感受野大小并不能描述分类精度。感受野大小不宜用于表示性能优劣，因其仅反映深度或核大小，而未反映宽度或基数等其他因素。其次，我们利用有效感受野考察了对输出有贡献的像素。直观上，预期每个像素对最终输出的贡献相等。但我们发现存在处于部分死亡状态、对输出贡献甚微的像素。我们揭示其原因源于 CNN 的架构，并探讨了缓解该现象的方法。有趣的是，在一般分类任务中，死像素的存在有利于 CNN 的训练；而在捕捉微小扰动的任务中，死像素会损害性能。因此，在实际应用中 CNN 时应理解并考量这些死像素的存在。
引用
@article{arxiv.2108.13576,
title = {Dead Pixel Test Using Effective Receptive Field},
author = {Bum Jun Kim and Hyeyeon Choi and Hyeonah Jang and Dong Gu Lee and Wonseok Jeong and Sang Woo Kim},
journal= {arXiv preprint arXiv:2108.13576},
year = {2021}
}
备注
9 pages, 5 figures